AI agents turn one request into about 20. Kubernetes is evolving to handle it.

要点

• CNCFのKillen氏とKrook氏は、人の1リクエストが約20のエージェント要求を生むと指摘。エージェントは200ms未満の応答を求める一方、Podの起動保証は約1秒だという。
• このギャップに対し、分散LLM推論のllm-dや大規模エージェント実行基盤のAgent Substrateが紹介された。Kubernetesは「AIのOS」になりつつあるとの見方。
• CNCF sandboxのkagentはAIエージェントをKubernetesのカスタムリソースとして動かす。チュートリアルでは、他のエージェントを作るエージェントを、ツール許可リスト・人間の承認・RBAC制限付きで構築している。
• Reevoのチームは、NIS2やDORAへの対応で、リスク・法務・セキュリティ部門が要件と証拠を定め、成果物や作業をプラットフォーム側へ引き継ぐ「トレーサビリティチェーン」を提案している。
• 本記事はHPEがスポンサーの連載で、HPE Morpheus SoftwareのSLES 16認定やPlatform Engineering Day(11月9日)の告知も含む。Bauer Mediaの事例では、1日約100万イベントをKubernetesなしで処理している。