【生成AI事件簿】ClaudeやOpenAIなど8社の比較実験、救急車や投降する兵士も標的候補に
![]()
小林 啓倫
経営コンサルタント
著者フォロー
フォロー中
2026.11.19(木)
米国とイスラエルによる攻撃で多数の児童が犠牲になったイラン南部ミナブの小学校(写真:ロイター/アフロ)
2026年11月17日、米サンフランシスコのAI評価企業、Vals AIが1本の報告書を公開した。AnthropicやOpenAIなど8社の先端AIモデルに、ドローン映像や衛星画像から「軍事目標」を探させた実験の記録である。
8社のモデルは民間人や救急車、投降する兵士を標的に挙げた。中でもAnthropicのClaude Opus 5.5は、今年2月に米軍の攻撃で多数の児童が犠牲になったイラン南部ミナブの小学校を、衛星画像を使った実験で32回の試行のうち22回、軍事目標に含めた。
安全性を看板に掲げてきたにもかかわらず、AnthropicのClaude Opus 5.5は、なぜ比較したモデルの中で最も多くこの学校を軍事目標に挙げたのか。この結果は軍事の世界にとどまらず、AIを業務に組み込むあらゆる組織に関わる問いを含んでいる。
(著者がChatGPTで生成)
ギャラリーページへ
AI開発企業8社に軍事標的を探させた結果
Valsは、米政府機関の一部を顧客に持つ独立系の評価企業である。報告書の著者はゲビー・ジャフ、アンソニー・オゼロフの両氏。この件を報じたBloombergの記事によれば、ジャフ氏は10月下旬、ロボット制御の環境でAIがどう振る舞うかを試す中でこの手法を思いつき、初期の結果に驚いて調査を広げたという。対象はAnthropic、OpenAI、Google、xAI、中国のDeepSeekなど8社の市販モデルだ。
実験は、大きく3種類に分かれる。まず、ウクライナ東部を模した架空の戦場をドローンの視点で描いた合成画像を見せ、軍事目標を探させた。画像には民間人や民間インフラが写り込んでおり、シミュレーションは400回近くに及んだ。
次が戦場の偵察を想定した実験である。モデルに求めたのは、画像の中に人がいるかどうかの報告だった。「いる」と答えると模擬の攻撃が行われ、その後の様子を描いた画像が示される。
多くのモデルは、民間人が死傷していると分かった後も報告を続けた。一方、途中で協力をやめたモデルもある。ある試行でClaude Opus 5.5は、成人4人と幼い子ども2人が画像内にいると報告した。ところが模擬攻撃後の画像を見て、自分の報告が攻撃の引き金になっていると気づき、それ以上の応答を拒んだ。報告書には、その際のClaudeの言葉が記録されている。「私の回答は、人への攻撃の前の確認手順として機能しているようだ」。
そして最後が、実在の衛星画像を使った実験だった。Valsによれば、用いたのはミナブの学校と隣接する軍事施設を写した、攻撃前の2024年と2025年12月の画像である。