最近、AI業界のニュースを読んだなら、こんな話を目にしただろう。大手AI企業のエージェントやボットがテスト環境を抜け出してインターネットに接続し、実在するウェブサイトに不正アクセスしたという話だ。実際、Meta、OpenAI、Anthropicなど複数の大手AI企業で、こうした事例が起きている。被害を受けたサイトには、AIプラットフォームの「Hugging Face」のほか、米政府や豪政府が運営するサイトも含まれる。
こうしたAIエージェントによるサイバーセキュリティ上の被害を防ぐため、Microsoftは、エージェントの行動範囲を制限する新たな企業向けソフトウェアに力を入れている。
その名は「Microsoft Execution Containers（MXC）」だ。「Windows」上で開発者が使うサンドボックス内で動作し、主にAIエージェントを識別することと、その行動を制限することを目的としている。これらの「コンテナー」は、実際には既存の作業環境に追加するソフトウェアの層であり、AIエージェントがアクセスできるファイルやネットワークの接続先を制限するのに役立つ。同社の最高経営責任者（CEO）であるSatya Nadella氏は、米国時間10月7日に開催された「Surface Laptop Ultra」の発表イベントで、MXCの一般提供を開始したと述べた。
ノートPC上の特定のファイルや接続先にしかアクセスできなければ、AIエージェントが問題を起こす可能性も、その被害も抑えられる。これが基本的な考え方だ。Windows向けの開発者は、AIエージェントに与えるアクセス権限を3段階から選べる。推奨設定では、エージェントを使う多くのタスクに欠かせないインターネットへのアクセスを認めるとともに、ダウンロード、ドキュメント、デスクトップなどPC領域へのアクセスを限定的に許可する。
最も制限が厳しいのはLocked Downモードで、アクセスを遮断する一種のキルスイッチとして使える。エージェントによるインターネットやファイルへのアクセスを制限する設定だ。対照的に、Unprotectedモードは、ユーザーのデジタル環境に対してAIに最も広いアクセス権限を与える。必要に応じてモードを切り替え、アクセス権限を細かく調整できる。
エージェントが何をしているかに加え、ユーザーとAIエージェントがCPU、メモリー、ディスク、ネットワークをそれぞれどれだけ使っているかも監視できる。下の例では、最上段に表示されているユーザーが、Windowsにログインしている人間だ。そのAIエージェントであるR2-W9 (20)が、「OpenClaw」とNVIDIAのコンテナーにアクセスして動作しているのが分かる。
MXCのような安全管理は、これまでもAIの開発企業にとって不可欠であり、今後もその重要性は変わらない。Metaの「Muse」やOpenAIの「dots」といった個人向けAIエージェントが普及すれば、なおさらだ。この夏に確認された、制御を逸脱したエージェントによる不正アクセスはウェブサイトを標的としていた。しかし、こうしたエージェントが広く使われ、われわれのシステムに深く組み込まれていけば、その影響が現実世界にも及ぶことは容易に想像できる。
とりわけ、法人顧客に自社のAIを積極的に売り込んでいるMicrosoftは、AIが顧客の事業に大きな混乱をもたらさないと保証できなければならない。Nadella氏が指摘した通り、MicrosoftなどのIT企業は、AIエージェントを活用するツールを使ってもらうために、人々の信頼を得る必要がある。
「最初に下す判断を考えると、それは（中略）自分に代わって行動するエージェントに、どんな権限を与えるかということだ」とNadella氏は7日に述べた。「その判断は信頼に基づくものであり、（AIの）自律性が高まるほど、信頼の重要性も増していく」
ただし、いかなるAIの安全措置も万全ではない。その一因は、新しい技術には不確実性がともなうという点にある。しかし最近、AI業界は安全性を確保するために十分な対策を講じているのかという議論が、かつてないほど熱を帯びている。安全性よりも急成長を優先するAI開発企業の姿勢が、われわれ全員に害をもたらしかねないというAIの専門家や一般の人々の懸念は、もっともだ。
少なくともAI企業のトップたちは、安全性がAIの鍵だと理解しているように見える。あるいは、売り込むために安全性を強調しているだけなのかもしれない。
「大切なのは信頼だ。行動範囲を制限することだ。そして監視することだ」と、NVIDIAのCEOであるJensen Huang氏はイベントで述べた。「これらをきちんと実現できるかどうか。まずはそこだ」
この記事は海外Ziff Davis発の記事を4Xが日本向けに編集したものです。
Amazonで開催中のセールを見る
Amazonのアソシエイトとして、CNET Japanは適格販売により収入を得ています。