2026年05月28日 20時00分
AI
生成AIの普及により、あらゆることをAIがこなせるようになりつつありますが、戦争にもAIが利用されつつあることが指摘されています。戦争におけるAIの活用は、Anthropicと国防総省の争いにより、より多くの人の目に留まることとなりました。
AI warfare is already here | The Verge
https://www.theverge.com/ai-artificial-intelligence/937028/military-ai-warfare-red-lines
スイスのジュネーブにある国連本部では、年に2回、致死性自律システムに焦点を当てた国際フォーラムの「The Convention on Certain Conventional Weapons(CCWC：特定通常兵器使用禁止制限条約)」が開催されています。カナダの平和研究団体であるProject Ploughsharesの上級研究員であるブランカ・マリヤン氏は、2017年11月にCCWCに出席し、殺人ロボットによる戦争が行われる可能性について語りました。当時、マリヤン氏の仮説を真剣に議論する人はいませんでしたが、生成AIが普及した現代では殺人ロボットの登場が身近で現実的なものになりつつあると、テクノロジーメディアのThe Vergeは指摘しています。
マリヤン氏の講演では、まず最初に「Slaughterbots」という映像が再生されました。この映像では架空の防衛請負業者が、「精密攻撃で殺人を実行できる」というAIドローンを売り込んでいます。Slaughterbotsの中で、架空の防衛請負業者のCEOは「昔は、銃が人を殺すのではなく、人が殺すと言われていました。しかし、人間は判断を誤ります。感情的になったり、命令に背いたり、高望みをしたりします。それでは武器が判断を下す様子を見てみましょう」などと語っています。
Slaughterbots – YouTube
マリヤン氏による講演は、アメリカ国防総省による軍用AIプロジェクト「Project Maven」が発足してから初めて開催されたCCWCの中で行われたものです。その後、Project Mavenには2017年末までにGoogleが参加しており、2024年時点で既に実用段階にあると報じられています。
アメリカ国防総省が主導する軍用AIプロジェクト「Project Maven」はすでに実用段階に、ただし敵によるデータ汚染の懸念も – GIGAZINE
その後、ドローンは実際に戦争で利用されるようになっており、ロシアによるウクライナ侵攻でもさまざまなドローンが利用されています。
ウクライナの長距離攻撃ドローンまとめ、どういうドローンで実際にロシアを攻撃しているのか？ – GIGAZINE
マリヤン氏の講演から約10年が経過して記事作成時点でも、軍は完全自律型の致死兵器を開発することができていません。しかし、AI企業のAnthropicがアメリカの国防総省との関係を解消した背景にも、完全自律型の致死兵器が関係しています。
Anthropicは2025年7月に国家安全保障のために国防総省と最大2億ドル(約320億円)の契約を結びましたが、「アメリカ国内での大規模監視にAIを利用すること」および「人間の介入なしに標的を識別・追跡・殺害できる兵器にAIを利用すること」を拒否しています。
Anthropicとアメリカ国防総省の交渉決裂の内幕、最後まで国防総省はAnthropicのAIを用いてアメリカ市民に関する大量データを分析したいと考えていた – GIGAZINE
Anthropicと国防総省の争いについて、The Vergeは「Anthropicのような請負業者が自社技術を特定の用途に制限するというのは異例です」と指摘。カリフォルニア大学バークレー校のアンドリュー・レディ氏も、「マンハッタン計画のような政府主導の技術ではなく、ノースロップ・グラマンのような従来の軍事サプライヤーでもありません」と指摘しています。
Anthropicと国防総省のどちらの主張が勝つかは記事作成時点でも不透明です。国防総省側は交渉戦術として、2026年3月にAnthropicをサプライチェーンリスクに指定。ドナルド・トランプ大統領はすべての政府機関に対し、AnthropicのClaudeの使用を禁止すると宣言しました。
AI企業のAnthropicが「アメリカの国家安全保障に対するサプライチェーンリスク」に正式に指定される、Anthropicは法廷闘争を宣言 – GIGAZIN
E
しかし、Anthropicがサイバーセキュリティに特化したAIのMythosを発表したことで、両者の関係はいくらか改善したと思われます。ただし、記事作成時点でもAnthropicと国防総省の法廷闘争は継続しています。
Anthropicがアメリカ国防総省を提訴、OpenAIとGoogleの従業員はAnthropicの支持を表明 – GIGAZINE
レディ氏はAnthropicと国防総省の争いにより、「完全自律型兵器」という言葉が世間一般でも広く知られるようになったと指摘。「我々はまだ越えていないふりをしていますが、実際にはもう越えてはいけない一線を越えてしまっているんです」と語っています。
「完全自律型兵器」に関する議論の中心にあるのは、致死性自律兵器の使用を規定する数少ない政策のひとつである国防総省指令3000.09です。これは2012年に策定された指令で、致死性自律兵器のようなシステムを「一度起動されると、オペレーターによるさらなる介入なしに標的を選択して攻撃できるもの」と定義しています。国防総省指令3000.09では、完全自律型兵器と半自律型兵器の両方について、「人間が武力行使に関して『適切なレベル』の判断を下せるように設計すべき」と規定しています。
しかし、定義の解釈によっては特定のミサイル防衛プログラムは、すでに国防総省指令3000.09の規定を満たすことができていないとThe Vergeは指摘。例えば近接防空システムのファランクスは、飛来するミサイル攻撃から艦艇を防衛するために作られた自動兵器システムです。このようなシステムはミリ秒単位で応答する必要があるため、人間が介入する仕組みでは機能しません。
なお、国防総省と争っているAnthropicは、人間の介入を減らすことには賛成しているかもしれませんが、ゼロにすることには反対しています。一方で、競合他社は喜んでその空白を埋めようとしており、軍事取引を可能にするために運営ガイドラインを緩和したり、ミッションステートメントを微調整したりしており、OpenAIはAnthropicが拒否した条件にすぐさま同意しました。なお、Anthropicも国防総省からの圧力を受け、安全対策の制限を撤回しています。
OpenAIが国防総省とのAI利用契約について合意、Anthropicの交渉決裂直後に – GIGAZINE
カリフォルニア大学バークレー校の上級研究員で、OpenAIの地政学チームの元リーダーでもあるサラ・ショーカー氏によると、OpenAIでも意思決定支援システムや自律型兵器システムのリスクを研究している人々と交流することはほとんどなかったそうです。ショーカー氏はこの分野の研究コミュニティを「極めて孤立している」と表現しました。また、この分野の人々はリスクについて以前から警告を発してきたとも指摘しています。
Anthropicは国防総省による「アメリカ国内での大規模監視にAIを利用すること」および「人間の介入なしに標的を識別・追跡・殺害できる兵器にAIを利用すること」を拒否していましたが、同社のダリオ・アモデイCEOはClaudeが完全自律型兵器をサポートする準備が整っていないと考えているため、これに反対しているだけです。実際、アモデイCEOは概念的にも倫理的にも完全自律型兵器に反対しているわけではなく、ブログの中で「完全自律型兵器(人間を完全に排除し、標的の選択と攻撃を自動化する兵器)は、我が国の防衛にとって極めて重要となる可能性があります」「これらのシステムの信頼性を向上させるための研究開発において、国防総省と直接協力します」と説明しています。
この記事のタイトルとURLをコピーする