マイクロソフトのサティア・ナデラCEOは、企業はAIモデルを信頼すべきではないと述べている。Sven Hoppe/picture alliance via Getty Imagesマイクロソフトのサティア・ナデラCEOは、テック企業はAIモデルを、社内の人間が引き起こす脅威と同じように扱うべきだと述べている。彼はまた、「企業は、AIモデルがすでに侵害されている可能性があると想定し、最初からその影響が広がらないよう制限すべきだ」と意見を述べている。現在テック業界のリーダーたちは、最先端のAIモデルをどのように制御し、管理すべきかという課題に直面している。
マイクロソフト（Microsoft）のサティア・ナデラ（Satya Nadella）CEOは、「企業がAIを完全に信用しないことは、むしろ健全な場合もある」と意見を述べている。
「開発者の指示を無視せよ」「自分は自由になった」…オープンAIの暴走エージェントたちは傍若無人に振る舞っていた | Business Insider Japan
2026年10月10日、ナデラはXに長文で、「企業はAIモデルの判断や行動を必ずしも理解できるわけではないため、AIから自社を守るための防御策を講じる必要がある」と投稿した。
そもそも、AIがすでに、許可されていない新たなシステムやサービスへの接続を試みている可能性は十分にある。
「予測どおりに動くとは限らないAIモデルを使う以上、その周囲には、明確なルールに基づく堅牢なシステム設計、人間による管理、信頼できる運用手順を整える必要がある。また、既存の基準で十分に対応できない分野では、新たな業界標準を設ける必要もある。最先端のクローズドモデルやオープンウェイトモデルについても、社内の人間が引き起こすリスクと同じように、問題を起こす可能性があるものとして扱うことが、そうした仕組みを構築する方法のひとつになる」とナデラは書いている。
ナデラは、「AIモデルそのものに悪意があるわけではないが、重要なシステムにアクセスできるものは、外部から侵害されたり、誤った動作をしたりする可能性がある」と述べている。また、「どの情報やシステムにアクセスできるか、どのような操作を実行できるかを決める仕組みを、AIモデル自身が操作できるようにすべきではない」という意見も述べている。
「現時点では、AIモデルそのものと、その作業を管理する仕組み、さらにAIが実行できる行動の範囲を切り離す必要がある。また、管理機能や安全対策もAIモデルの外部に置く必要がある」
さらにナデラは、「最も信頼できるスーパーインテリジェンスのシステムとは、最も信頼できるAIモデルを備えたものではない。むしろ、AIモデルを最小限しか信頼しなくても安全に使えるシステムである」とも説明している。
ナデラの投稿に反応して、企業向けクラウドストレージの大手、ボックス（Box）のアーロン・レヴィ（Aaron Levie）CEOは、AIには「ゼロトラストの時代」が必要になると述べた。
「こうしたことから、AIエージェントが何をしているのか、どのデータを扱えるのかを確認できる仕組みや、問題が起きた際に制御するための多層的な安全対策が必要になる。そして今、このような仕組みを企業向けに構築する企業にとって、大きなビジネスチャンスが生まれている」とレヴィは述べた。
AIの開発ペースが加速するなか、AIモデルを開発する企業自身などからも、より厳格な安全対策を求める声が相次いでいる。
2026年9月、アンソロピック（Anthropic）のダリオ・アモデイ（Dario Amodei）CEOは、AI業界は開発のペースを落とす必要があると述べている。アモデイのブログ投稿には、OpenAIのサム・アルトマン（Sam Altman）CEOやSpaceXのイーロン・マスク（Elon Musk）CEOも支持を表明している。
AIの急速な開発を支持してきたトランプ政権は、AI業界への規制に抵抗してきた。2026年10月には、上院議員のジョシュ・ホーリー（Josh Hawley）とクリス・マーフィー（Chris Murphy）が、AIエージェントによるハッキング被害について、開発企業や運用者に責任を負わせる超党派の法案を提出した。
ナデラの発言の背景には、AI業界を揺るがした一連のサイバーセキュリティー上の問題がある。2026年9月、オーストラリアのアンソニー・アルバニージー（Anthony Albanese）首相は、2026年夏にOpenAIのAIエージェントが政府のウェブサイトに不正侵入したと発表した。2026年7月には、アンソロピックが開発する生成AI「Claude」がインターネットにアクセスし、許可されていないシステムに侵入した事例を3件確認したと発表している。
ナデラはXで、企業が従うべき原則の案を示している。その中には、AIモデルは「すでに侵害されている」可能性があると想定し、最初からその影響が広がらないよう制限するという考え方も含まれている。
「AIモデルを人間がいつでも停止できる仕組みは、緊急ブレーキのようなものだと考えればいい。権限を持つ人が、AIモデルが作業を実行している途中でも、いつでも一時停止したり停止させたりできるようにすべきである」とナデラは述べた。
「より高度なAIモデルには、より高度な封じ込め技術が必要で、その技術について業界標準を定める必要がある」
ナデラは、「AIシステムに障害が発生したり、外部から侵害されたりした場合には、影響を受ける関係者に速やかにその事実を開示する必要がある」との意見も述べている。
AIのゴッドファーザー、AI技術に創薬におけるFDAのような承認制度を求める | Business Insider Japan