セキュリティ業務向けAIエージェント基盤「SAGE」の開発記 第1弾：判断は人間に委ねる設計

要点

• SAGEは判断をAIに任せず、一次整理と根拠収集を担わせる。導入は人の判断支援、エージェント協働、定型業務の自動化の3段階で進め、本記事は第1段階を扱う。
• 入口は3つ。Jiraの相談アシスタント、Slackの運用案内アシスタント、担当者向けWebの分析ワークベンチで、いずれも本番運用中。Langflow、GPT系モデル、Langfuse、MCP、OpenSearchで構成する。
• 回答は参考提案にとどめ、可否の断定や担当者を装う表現を禁止する。相談の複雑度で回答量を変え、引用は原文と照合したものだけに検証済みの印を付ける。
• Slackでは根拠が確認できなければ一般論と担当チームへの引き継ぎに切り替える。運用チームの改善案を回答ポリシーの独立した領域に1行ルールとして反映する週次のフィードバックループを回す。
• 学びとして、ドメイン別のワークフロー分割、断定せず確認事項を示す方針、検索品質はモデルよりデータ整理に左右されること、フィードバックを中核機能に据えることを挙げる。