開源解決方案與混合雲平臺供應商紅帽(Red Hat)於6月22日發表Project Navigator,這是建置在企業AI與機器學習平臺Red Hat OpenShift AI的功能,目前已隨OpenShift AI 3.4推出開發者預覽版。這項工具支援以自然語言描述AI應用需求,協助企業依據叢集資源與效能條件,找出合適的模型與部署設定,縮短AI應用從模型評估到正式部署的流程。
Project Navigator目前包含兩項能力。首先是智慧模型選擇,系統會將使用者描述的需求,比對MMLU、HumanEval等評估大型語言模型能力的基準測試資料,並從使用者的模型目錄中,推薦偏重成本、效能或兼顧兩者的模型。
另一項能力是最佳化模型部署。使用者選定模型後,Project Navigator可產生符合叢集狀態的Kubernetes部署清單(manifest),包括KServe的InferenceService推論服務規格、設定擴縮規則的水平Pod自動擴縮器(HorizontalPodAutoscaler),以及用於Prometheus這類系統狀態觀測系統的ServiceMonitor。
Project Navigator建立在模型脈絡協定(MCP)之上,可嵌入團隊既有AI開發流程,讓使用Claude Code、Cursor或Gemini CLI等工具的工程師,不必切換工作環境就能存取Navigator功能。
紅帽表示,Project Navigator採開源方式發展,並於Open Data Hub社群中,以RHOAI MCP Server專案進行上游開發
Comments (0)