大手IT企業の幹部らが米国時間9月29日、ホワイトハウスに集まり、今夏に広く関心を集めてきた人工知能（AI）の安全性について議論した。会合後、Donald Trump米大統領は、AIの安全策を実行する自主的な合意に達したと発表した。
Trump氏がSNS「Truth Social」に投稿した合意文書は、AI企業が導入すべき主な手法を4層に分けて示している。なお、同氏の署名の下に記された肩書きでは、「United」が「Unites」と誤記されている。
サイバーセキュリティー、バイオセキュリティー、化学的脅威など、重大な懸念がある領域を対象に、「学習時と運用時にモデルの能力とアラインメント（人間の意図や価値観との整合性）を監視するための強固な内部統制を導入する」
安全上の問題を特定し、解消することを専門とする社内チームを設け、必要な権限を与える
「独立した外部監査人または評価者と連携し」、安全対策が想定どおりに機能していることを確認する
取締役会に独立した委員会を設け、社内の安全対策チーム、独立した監査人や評価者から報告を受け、監督する
署名者には、NVIDIAの最高経営責任者（CEO）Jensen Huang氏、MetaのCEOであるMark Zuckerberg氏、GoogleのCEOであるSundar Pichai氏、AnthropicのCEOであるDario Amodei氏、SpaceXのCEOであるElon Musk氏、OpenAIのプレジデントであるGreg Brockman氏など、大手IT企業の著名な幹部が名を連ねる。OpenAIのCEOであるSam Altman氏は29日、サンフランシスコで開催された同社の開発者イベント「DevDay」で、開幕の基調講演を行っていた。
今回の合意は象徴的であり、AIを「超知能（super intelligence）」と呼ぶよう求めるTrump氏の新たな大統領令も同様だ。同氏は29日、記者団に対し、合意には法的な義務ではなく「道義的な拘束力」があると述べた。法律としての効力も、履行を強制する手段もない。
Trump氏によると、大手IT企業はすでに自主規制を行っている。Trump政権はAI規制への介入を控えてきたが、特定のAIツールを国家安全保障上の脅威と判断した場合など、いくつかの例外はある。
AIをめぐる大統領主導の取り組みの多くは、企業の自主性に委ねられてきた。これにはBiden政権によるAIの安全性に関する誓約や、データセンターに起因する公共料金の上昇に対処するため、公共料金を支払う消費者を保護するTrump政権の誓約などが含まれる。大手IT企業の多くは理念に賛同しているものの、成長と投資資金の確保を重視するため、環境、消費者の負担増、安全性への懸念が軽視されている。
サイバーセキュリティー企業Black Hills Information Securityを保有するJohn Strand氏は、「今回の合意を見ると、大枠としては素晴らしい取り組みであり、その方向に進むべきだろう」と述べた。「気になるのは、これらの企業が、自ら従うと表明した基準を実際に守るようにするための実施や監視の仕組みがないことだ」
IT業界の自主規制が有効に機能しないことは、すでに明らかになっている。AI企業は自社のモデルを制御することに苦慮しており、ボットが学習環境から抜け出し、米国とオーストラリアの政府機関のウェブサイトに不正侵入した事例もある。破滅的な「AIによる終末」のシナリオに対する備えができていないとの警告があり、AI開発の減速や一時停止をめぐる議論も公に行われている。それでも、AI企業は新たなツールの開発を進めている。
こうした状況から、先端技術のリスク低減に取り組む非営利団体Future of Life InstituteのCEOであるAnthony Aguirre氏は、IT企業の自主規制は信頼できないと主張する。
「これらの企業はこれまで数え切れないほど安全性に関する約束を捨て去ってきたし、今後も同じことを繰り返すだろう。自主規制の結果として起きたのが、ティーンの自殺、1200体の暴走AIボット、そして国境を越えて相次ぐサイバー犯罪だ。行動を起こさないことのリスクは、政治的にも道義的にも極めて大きい」（Aguirre氏）
合意の履行を強制する力が弱いことに加え、ほかにも潜在的な問題がある。その1つが、監査人や評価者の「独立性」という考え方だ。その定義は明確ではない場合がある。AIのエンジニアや幹部は研究機関の間を頻繁に移籍することで知られており、営業秘密の侵害でAppleがOpenAIを提訴した例もある。
AI専門家でニューヨーク大学名誉教授のGary Marcus氏は、「Substack」への最近の投稿で、AIのように関係者同士のつながりが密接な分野では、外部の委託先が、監視対象となるAI企業の友人やビジネスパートナーである可能性もあると指摘した。
サイバーセキュリティーとAIを手がけるSuzu LabsのシニアディレクターであるJacob Krell氏は、「弱点は『独立した』という言葉にある」と述べた。「第3層では、各社が外部の評価者を選べるようになっているが、認定、評価方法、情報へのアクセス、評価範囲、結果の公表には触れていない」
暴走したAIエージェントによる不正侵入やAIエージェントを使った意図的な攻撃から顧客のウェブサイトを守るサイバーセキュリティー担当者にとって、こうした透明性や文書による記録は極めて重要だ。
今回の合意は、こうしたAI指針をいずれ法制化することを示唆しているものの、米議会では、この技術をどのように規制するかについて合意に至っていない。
シリコンバレーを選挙区とする民主党のRo Khanna下院議員は「X」への投稿で、「この国を律するのは法律であり、指切りの約束ではない」と自主的な合意を批判した。同議員は最近、AIが自らを改良する「再帰的自己改善」に制限を課す新たな法案を提出した。超知能を禁止するBernie Sanders上院議員の法案など、ほかにも審議中の法案がある。
その一方で、複数の報道によると、米連邦取引委員会（FTC）は、AnthropicやOpenAIなど主要なAI研究機関を対象に調査を開始した。各社のAIエージェントや技術が消費者にもたらすリスクを調べるという。
この記事は海外Ziff Davis発の記事を4Xが日本向けに編集したものです。
Amazonで開催中のセールを見る
Amazonのアソシエイトとして、CNET Japanは適格販売により収入を得ています。