Skip to main content

AWS與紅帽深化AI平臺合作,將代理式AI開發環境與AI晶片支援納入OpenShift生態系

Posted in 業界新聞
新聞

Kiro整合OpenShift Dev Spaces,讓企業在集中治理環境使用代理式AI開發工具

AWS與紅帽宣布,將代理式AI整合開發環境Kiro整合至紅帽雲端開發環境OpenShift Dev Spaces。這項整合採用本機到遠端的SSH連線工作流程,開發者可在本機執行Kiro,同時連線到OpenShift叢集中的容器化工作區。

AWS與紅帽指出,這可讓開發團隊在集中治理的環境中使用AI程式開發工具,減少個別開發者電腦設定差異造成的問題;IT團隊也能集中控管安全政策、資源限制與網路存取。這項Kiro整合功能已在OpenShift Dev Spaces 3.25版提供。

強化OpenShift推論部署,納入Inferentia與Trainium支援

AWS與紅帽正在推動AWS Inferentia晶片專用的AI Operator(AI Operator for AWS Inferentia),協助企業在OpenShift環境中執行AI推論工作負載。

對已使用OpenShift作為Kubernetes平臺的企業來說,這類做法可減少導入專用AI加速器所需的客製化工程。AWS與紅帽認為,企業可在既有OpenShift維運架構下,讓AI工作負載與傳統容器化應用並行運作,並沿用既有維運工具與政策控管機制。

另一項合作則是讓紅帽模型推論伺服器Red Hat AI Inference Server支援AWS Trainium晶片,協助企業在保有紅帽支援與一致管理方式的情況下,降低大型語言模型與高流量AI應用的推論成本。

Red Hat AI Enterprise上架AWS Marketplace,簡化企業AI平臺採購流程

在AI平臺採購方面,企業可在AWS Marketplace取得Red Hat AI Enterprise,並透過既有雲端採購與支出承諾機制獲得授權,適用範圍包括AWS Enterprise Discount Program、私有定價協議與AWS Marketplace Private Offers。

ROSA導入Red Hat build of Karpenter,改善節點擴展與資源配置

紅帽將透過Red Hat build of Karpenter,改善Red Hat OpenShift Service on AWS(ROSA)的運算容量與節點生命周期管理。Red Hat build of Karpenter是以上游Project Karpenter為基礎的全代管自動擴展器,可依工作負載需求調整節點配置。

紅帽表示,這項功能將在下一個Red Hat OpenShift小改版正式推出,並適用於所有已正式提供ROSA的AWS區域。

View original 0 Likes 0 Boosts

Comments (0)

No comments yet.