【專訪Istio關鍵人物:Nutanix雲原生副總裁暨總經理Dan Ciruli】從大規模微服務實踐,看AI原生代理的新挑戰

【專訪Istio關鍵人物:Nutanix雲原生副總裁暨總經理Dan Ciruli】從大規模微服務實踐,看AI原生代理的新挑戰

Istio與大規模微服務實踐

Istio專案是用來在K8s上執行大規模微服務的服務網格重要開源專案,Dan Ciruli相當熟悉企業如何運作大規模微服務的挑戰和實踐。

AI工作負載的新挑戰

AI工作負載帶來兩大新挑戰,包括如何更優化大規模AI代理的運作,以及如何在正式環境中穩定執行與管理這些AI代理。

AI代理與微服務的類比

CNCF技術長Chris Aniszczyk將AI代理比喻為新型態的微服務,認為可以參照過去在正式環境中執行大規模微服務的做法,來支援大規模AI代理的部署。

企業對本地Kubernetes部署的需求

Nutanix雲原生副總裁兼總經理Dan Ciruli表示,隨著主權人工智能和邊緣AI的快速部署需求,以及在邊緣運行推理的趨勢,越來越多企業正在推動本地部署Kubernetes。

來源:https://www.ithome.com.tw/news/173686

返回頂端