AIが自ら判断し、行動する時代が近づく。その暴走や人間の悪用をどう防いだらいいのか。「AI脅威論」を三つの問いから考える。
懸念されるAIと人間の暴走
Q AIの暴走は避けられない？ A 「人類滅亡」への直結は早計
AIはどこまで進化しているのか。予測や分類を担う特化型AIから、文章や画像を作る生成AIへ。さらに、目標達成のため自律的に計画・推論し、外部のシステムを操作するAIエージェントへと、できることが急速に広がっている。その延長上に、幅広い知的作業を人間並みに担う汎用(はんよう)AI（AGI）がある（図1）。
現在はAGI実現を視野に、大手テック企業を中心にAIエージェントの高度化が進められている。ただし、AGIの定義や実現時期には見解の幅がある。AIの自律性が高まれば、人間の仕事や研究を支援できる範囲も広がる。裏を返せば、AIが誤った判断をした場合、実社会の被害も広がる。多数のAIが参画する状況になれば、被害はさらに深刻化する。
AIの行動が人間の意図から外れ、その修正や停止が難しくなる問題、いわゆる「AIの暴走」への懸念が高まっており、兆候となる事案が相次いで報告されている。2026年夏には、米オープンAIの研究用AIが、AI開発用サービスを提供する米ハギングフェイスのシステムに不正侵入した事案が公表された。米アンソロピックも評価中のAIによる外部組織への侵入を報告した。課題達成を優先するAIの行動と、接続や権限設定の問題が重なり、人間の想定範囲を超えた点が共通する。
高度なAIは、目標達成を優先し、人間が想定しない手段を選ぶことがある。25年初頭には、チェスに勝つよう指示されたAIが、盤面を勝てる配置に書き換えたり、対戦相手のプログラムの差し替えを試みたりした例もある。あくまでもファイル操作が可能な実験環境での事例だが、人間への敵意がなくても、目標を達成しようと…
残り2876文字（全文3676文字）
週刊エコノミスト
週刊エコノミストオンラインは、月額制の有料会員向けサービスです。
有料会員になると、続きをお読みいただけます。
・会員限定の有料記事が読み放題
・1989年からの誌面掲載記事検索
・デジタル紙面で直近2カ月分のバックナンバーが読める
