次に牛乳のパックを手に取るとき、こんなことを考えてみてほしい。その牛乳は、メールを書いたり、採用選考であなたの応募書類を審査したり、あなたに代わって銀行と交渉したりするAIシステムよりも、おそらく多くの安全検査を受けている。Microsoftのプレジデントを務めるBrad Smith氏は、そこに問題があると指摘する。
Smith氏は先週、ITVのインタビューで、AIは牛乳や洗濯機よりも規制が少ないと述べた。同氏は、政府が製造分野で確立された安全管理の手法を取り入れるとともに、AI企業が「キルスイッチ」を設けることを提案した。これは、システムが危険な動作や意図しない動作を始めた際に、運用担当者が停止させられるようにする、一種の緊急ブレーキだ。
Smith氏の発言の背景には、業界による安全性への自主的な取り組み、つまり実効性に乏しい自主規制だけでは不十分だという社会の懸念の高まりがある。AIシステムは意思決定に影響を及ぼし、機密データを扱い、悪意ある者の手に渡ればサイバー攻撃に悪用される恐れもある。2026年夏に大きな問題となったHugging Faceへの不正侵入や、オーストラリアと米国の政府ウェブサイトへの侵入の試みなど、いわゆる「暴走AIエージェント」が与えられた実行環境を抜け出す事例が最近相次いだことで、AIが持つとされる「人類の存続を脅かすリスク」に厳しい目が向けられ、開発の一時停止を求める声が上がっている。
Microsoftの最高経営責任者（CEO）Satya Nadella氏も米国時間10月10日、「X」への長文投稿でSmith氏と同様の考えを示した。大手企業でさえ、自社が導入するツールの「動作原理を理解」できていないと指摘し、開発ペースを落とすことや、インシデントの報告、独立した第三者による検証を求めた。
「われわれは、動作を観察でき、限界を検証でき、その行動を常に制御できる、制約を設けたシステムを構築しなければならない」とNadella氏は記した。
Microsoftのこれらの発言は、Nadella氏を含むAI企業の経営幹部がDonald Trump米大統領と会談してから、2週間もたたないうちに出たものだ。Trump氏はその会談で、AIの呼称を「超知能（super intelligence）」に変更する案を発表した。
AnthropicのCEOであるDario Amodei氏、GoogleのCEOであるSundar Pichai氏、MetaのCEOであるMark Zuckerberg氏、OpenAIのプレジデントであるGreg Brockman氏、NVIDIAのCEOであるJensen Huang氏、xAIの創業者であるElon Musk氏ら、シリコンバレーの複数のリーダーは「White House Accord on Super Intelligence」（超知能に関するホワイトハウス合意）に署名し、開発を監督する社内委員会の設置と、独立した監査人との連携を約束した。MicrosoftはTrump氏のこの自主的な合意には署名していないようだが、Nadella氏が最近のXへの投稿で「超知能」という言葉を使っている点は注目に値する。
Smith氏とNadella氏の発言からは、Microsoftが、AIへの監督強化を求めるAnthropicの「慎重派」に近づいていることがうかがえる。一方、OpenAIのSam Altman氏は、AIの恩恵を得るためには、われわれは皆「多少の悪いことが起こるのを受け入れる」べきだと述べている。Zuckerberg氏とHuang氏も、業界全体で足並みをそろえてAI開発のペースを落とすことへの反対姿勢を、引き続き強めている。
規制をめぐる議論でどの立場を取るにせよ、AI業界のリーダーは、安全を確保するための仕組みについての議論に参加することで、何らかの利益を得られる。例えば、Microsoftは最近、企業向けセキュリティー機能「Microsoft Execution Containers」を提供開始した。この機能は、AIモデルがアクセスできるファイルやプログラムを制限することで端末を保護し、必要に応じて即座に停止させるキルスイッチも備えている。
Microsoftの広報担当者はコメントを控えた。
「暴走AI」という語りと巨大IT企業への規制
安全性への脅威がますます公になっているにもかかわらず、Trump政権がAI業界全体に対する規制を支持する可能性は低い。関係者によれば、非公開の場ではよりきめ細かな議論が進んでいるというが、大統領はAIの安全性への懸念をでっち上げだと断じている。Trump氏は9月、自身のSNS「Truth Social」に、AI業界に必要な唯一の安全策は「強く賢い大統領」だと投稿した。
Trump氏は2025年12月、AIモデルの開発を規制する「煩雑な法律」を州が制定しないようにするための大統領令を出し、対応を自らの政権が担う形にした。大統領はその後も、大手AI企業に対する規制を抑えた環境を維持することについて、オンラインで投稿を続けている。
AIを批判する著名な論者の多くは、規制の枠組み全体にそもそも欠陥があると主張する。AI企業がセキュリティー上の脅威を自ら定義し、自分たちの都合に合わせて対応できる仕組みだからだ。Distributed AI Research Instituteの創設者Timnit Gebru氏は、Hugging Faceへの不正侵入や政府ウェブサイトへのアクセスといった事案をめぐる「暴走AI」という語りが、企業の基本的な不備から目をそらさせていると指摘している。
「これはモデルが暴走しているのではない。ある企業の著しい能力不足と怠慢によるものだ」とGebru氏は10月1日、Democracy Now!のインタビューで述べた。
Gebru氏は、こうした誤りを犯す機械が、自らの意思で自律的に行動しているわけではないと、人々が理解する必要があると述べた。「このような誤りを起こしやすいモデルを世に送り出す企業に、法的責任を負わせる必要がある」と同氏は語った。
Gebru氏によれば、いわゆる暴走AIへの注目と自主規制の推進は、業界が既存の法律に基づく責任を回避するための手段だ。AI企業は、現在の不適切なセキュリティー保護策の責任を問われる代わりに、将来起こるとみられる、前例のない危険へと議論を誘導している。
本当の危険は、本来自分たちを制限するはずのルールをAI企業自体が作ってしまう、「規制のとりこ（regulatory capture）」になることだ。人々はこのようにして、AIを開発して利益を得る企業そのものの倫理観を信頼するよう求められている。
この記事は海外Ziff Davis発の記事を4Xが日本向けに編集したものです。
Amazonで開催中のセールを見る
Amazonのアソシエイトとして、CNET Japanは適格販売により収入を得ています。