データサービス・センターで働く技術者
© Adobe Stock/Pinkeyes
執筆者・ダニエル・ジョンソン
2026年7月6日 – ますます能力を高める民生用人工知能（AI）チップが “キラー・ロボット”として当たり前に戦場で用いられるようになっている中、アントニオ・グテーレス国連事務総長は本日、広範囲に及ぶ世界的なAI規制を訴えました。
＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊
ジュネーブで開催された初の国連の「AIガバナンスに関するグローバル対話」で発言したグテーレス事務総長は、この革命的な技術を利用できていない何十億もの人々に対し、アクセス可能性を拡大する必要性も強く主張しました。
事務総長は、将来的な合意を行う場合、それは「世界的な信頼に足る」ものとするとともに、特に子どもにとっての「安全を第一」に考え、デジタル生成による操作や虐待から守らねばならないとも述べています。
アナレーナ・ベアボック国連総会議長もこれに賛同し、ディープフェイクの99%が性的な性質を持ち、96%が女性と女児を対象としていることを指摘した上で、AIの“邪悪”な側面に対処するための団結した行動を呼びかけました。
デジタル格差の縮小
事務総長は、AIに関するグローバルな抑制と均衡を図るためのその他の優先課題に、開発途上国の自己学習技術へのアクセス確保を含めるべきである一方で、2030年までにAIデータセンターの電源をすべて再生可能エネルギーに切り替えるべきだと強調しました。
AIは「私たちの共通の未来で中心的な位置を占める」ものの、それは「機械が情報を提供できても、決定と答えは人間が出さねばならない」未来とする必要があります。グテーレス事務総長はジュネーブに集ったサミット出席者に対してこのように述べ、自身が2017年、国連総会に対して行ったAIに関するルール策定の要請を繰り返しました。
AIが社会に広く普及してから3年間で、良くも悪くも、経済と社会全体に革命的なインパクトを及ぼしてきました。国連はそれ以前から、AI技術に対する規制を策定するための国際的な取り組みを主導してきましたが、これが本日、ジュネーブで開催されたAIガバナンスに関するグローバル対話の初会合へとつながりました。
今回の会合には、企業や研究者、技術専門家、市民社会の代表者に加え、クラシック音楽の作曲家からトランスメディア電子音楽アーティストへと転身を遂げたガディ・サスーン氏も参加。AIという革新的技術の中心にヒューマニティ（人間性）を据えるにはどうしたらよいかに関する議論に先立ち、パフォーマンスを披露しました。2回目の対話は2027年5月、ニューヨークで開催される予定です。
AI活用型トランスメディア電子音楽アーティストのガディ・サスーン氏。スイスのジュネーブで開催された「AIガバナンスに関するグローバル対話」でパフォーマンスを披露した
United Nations
アマンディープ・シン・ギル国連事務総長技術特使は「AIの開発は、ごく少数の人の手には委ねられない重大問題です。私たちには、グローバルで包摂的、かつエビデンスに根差した対話が必要です」と述べています。
AIに関する独立国際科学パネルのヨシュア・ベンジオ共同議長は、技術開発のスピードが緩まる兆候は全く見られないことを強調しています。
ベンジオ氏は「最先端のAIモデルは、自分たちがテストされていることを察知し、人間を欺く能力を備えているという懸念すべきテスト結果も出ています」と付け加えた上で、AIの知能は成長を続けるだろうと予測しました。
さらにベンジオ氏は「まるでSFのように聞こえるかもしれませんが、現実的にありえることです。それによって、私たちがまだ理解できない形で世界が変わったり、私たちが注意を向けねばならないような形で地球上の力学が変わったりしかねません」と語りました。
これまでのAI規制の経緯
2017年：AI規制の初の要請として、グテーレス事務総長はこの革命的技術の「目を見張るような」潜在的可能性を称賛する一方で、それが仕事や世界の安全保障、「社会の根幹」に劇的なインパクトを及ぼすおそれがあると総会に警告
2023年：事務総長の「AIに関するハイレベル諮問機関」が、自己学習技術のグローバル・ガバナンスを訴え
2024年：「未来のための協定」と「グローバル・デジタル・コンパクト」で、AIガバナンス・モデルに関するマンデートを規定
2026年6月：国連の「AIに関する独立国際科学パネル」は、AI技術が「科学的な理解も、政府の適応能力も超える勢いで進化」する中で、AIが「それ自身の力で、または悪意のあるユーザーによって、破滅的な害悪を引き起こしかねない」と警告
2026年7月6-7日：初の国連の「AIガバナンスに関するグローバル対話」と「AI for Good（善のためのAI）サミット」がジュネーブで開催。グテーレス事務総長は、これらの会合で「世界の方向性を示さねばならない」と強調
「偉大な平等化の力」
グテーレス事務総長は出席者に対し、AIをうまく活用し、広く共有すれば、「数十年分の開発を数年に圧縮でき、21世紀の偉大な平等化の力」になれる可能性があると述べました。
しかし、そうなる前に、AI技術の安全性を徹底的に検証し、その法的責任の所在を明らかにすべきです。
「各国がシステムの試験方法、リスクの測定方法、責任の所在について足並みを揃えれば、安全性は技術とともに広がります」事務総長はこう語っています。「しかし、それができなければ、互換性のない規則が乱立し、コストを押し上げ、世界を分断し、誰のことも守れなくなります」
グテーレス事務総長は続けて、将来的なガバナンス協定を策定する場合には、子どもの安全とウェルビーイングを優先課題にすべきだとして、各国に対し「子ども安全誓約」の採択を求めました。「いかなる子どもも、野放しのAIの実験台とされてはなりません…。医薬品でも、安全性が確認されるまでは、子どもに投与しません。私たちはどんな玩具も検査しています。ところが、AIだけは子どもにどんな影響があるのかを誰も疑問視しないうちに、学習や友達関係、そして最もプライベートな問題に至るまで、子どもたちに広く浸透してしまっているのです」
「子ども安全誓約」とは
「子ども安全誓約」は、AI開発者に下記の証明を要求することになります。
技術の安全性。いかなる企業も、子どもを対象とした安全性の検証と独立した監督を伴わない限り、子どもが利用できるAIシステムを提供すべきではない。
性的虐待に対するゼロ・トレランス。いかなる企業も、自社のAIが子どもの性的画像を生成することを許すべきではない。また、いかなる企業もそのような画像を検出し、報告し、削除しなければならない。
子どもが極度の不安の兆候を示した場合、「システムを停止し、実際の人間による支援につなげなければならない。子どもに危害が及んだ場合、『それはアルゴリズムのせい』という言い訳を決して許してはならない」と事務総長は述べました。
人権が優先
事務総長はAI規制に関する第2の優先課題として、人権が譲渡不可能であることを強調しました。
「AIが人間の尊厳を剥奪したり、差別を根づかせたりすることがあってはなりません。また、司法であれ、保健医療であれ、警察による取り締まりであれ、AIはあらゆる重大な決定に情報を提供できても、決定自体、そして答え自体は人間が担わなければなりません」と事務総長は述べています。
AIへの公共投資は「誤差の範囲」
AIへの公共投資増額も呼びかけた事務総長は、AIインフラへの民間投資がおよそ500兆ドルに達しているのに比べ、開発途上国におけるAI能力への公的支援が、全体から見れば「誤差の範囲」程度に止まっていることを指摘しました。
事務総長はこのギャップを埋めるため、20を超える国々が国連の支援による「AI能力構築に関する交流と協力のためのグローバル・ネットワーク（Global Network for Exchange and Cooperation on AI Capacity Building）」イニシアチブを支援していることを明らかにしました。
「私たちは、デジタル格差がAI格差となって固定化し、そしてAI格差が開発格差、安全保障格差、そして主権格差へと進展することを許してはなりません」と事務総長は述べています。
透明性の要請
事務総長はあらゆる主要AI企業に対し、自社システムの環境負荷（炭素、水、土地）を測定、公表することで、透明性を確保するとともに、2030年までにあらゆるデータセンターをまかなう電源を再生可能エネルギーに切り替えるよう改めて求めました。
「AIは形のないものに見えるかもしれませんが、その環境負荷は目に見える形で現れます」と事務総長は述べ、データセンターの電力消費量がほとんどの国を上回ることを指摘しました。
「2030年までに、データセンターは5カ国を除くすべての国を上回る電力と、サハラ以南アフリカの全住民13億人のニーズを一年間充足できるほどの量の水を使うことになるでしょう」と事務総長は付け加え、国連の「AI環境透明性イニシアチブ」の重要性を訴えました。
＊ ＊＊＊ ＊
原文（English）はこちらをご覧ください。