米Googleの研究組織であるGoogle DeepMindは6月、「GDM AI Control Roadmap」（以下、AI Control Roadmap）と題した全36ページの文書を、解説ブログと共に公開した。自社内で稼働するAIエージェントを潜在的な「内部脅威」とみなし、その行動を監視・統制するための技術的な計画をまとめている。
【画像3枚】「AI Control Roadmap」における監視のタイミング
これは「Gemini」のようなAI製品の発表ではなく、自律的にタスクをこなすAIを社内配備する際の「内部ガードレール」のフレームワークである。
前回の連載記事でも触れたように、AIエージェントをどう制御するか、というテーマへの注目が日に日に高まっている。しかしAIを開発する企業自身が、自社のAIを「信頼できない存在」として扱う前提のセキュリティ計画を公表するのは異例だ。
そこで本記事では、AI Control Roadmapの中核を成す2つの概念、AIエージェントの一連の振る舞いを追跡する「行動軌跡監視」と、モデルの能力に応じて統制を段階的に強化する「能力連動型ガバナンス」を解説してみたい。
AIコントロールは「第2の防衛線」
まず前提となる「AIコントロール」という概念を整理しておこう。AIの安全性というと、AIモデルの価値観や目標を人間の意図に沿わせる取り組み、いわゆる「アラインメント」が思い浮かぶ。
一方、AIコントロールはこれとは異なるアプローチだ。アラインメントは主にAIモデルのトレーニングをどう適切にするかという話だが、AIコントロールはアラインメントが完全ではない場合に備えて、モデルの「外側」に設けるシステムレベルの防御（第2の防衛線）を指す。
具体的には、自動監視やアクセス制御、実行環境の堅牢（けんろう）化、インシデント対応などを組み合わせる。仮にアラインメントが不十分で、人間の意図とずれた目標を持つAIエージェントが現れても、引き起こされる被害を一定以下に抑え込むことを狙う。
AI Control Roadmapの主な対象はエージェント型のAIだ。文書内では「エージェント型配備」（agentic deployments）として「コードの作成・実行や社内インフラとのやりとりを含むツール利用を可能にする、ハーネス（エージェントの実行基盤）上へのAIモデルの配備」と定義している。
Google DeepMindは、こうしたエージェントがAIの研究開発やサイバー防御を支える「イノベーションのエンジン」になりつつあると指摘する。エージェントが中核業務を担う存在になるからこそ、その振る舞いを統制する仕組みが重要になるわけだ。