新規株式公開（IPO）を控える人工知能（AI）スタートアップAnthropicの最高経営責任者（CEO）が、電撃的に政府によるAI安全規制の強化を訴えた。新技術の発展を阻害するとして規制緩和を叫んできた通常のシリコンバレーの声とは異なり、自社製品を対象とする拘束力ある規制をむしろ要求する「意外な提案」であることから、業界の注目が集まっている。
ダリオ・アモデイ（Dario Amodei）Anthropic CEOは10日（現地時間）、同社ブログに「AIの発展に対応するための政策提言」と題するエッセイを公開し、一定水準以上の高度なAIモデルについて、サイバーセキュリティ、生物兵器、AI制御の喪失、リスクを加速させる可能性のある自動化研究開発（R&D）の4分野で、資格を有する第三者による検証を義務化すべきだと明らかにした。検証の結果、許容できないリスクが確認された場合、政府が当該モデルの配信を遮断または撤回できる権限を持つべきだという構想だ。
同氏はこの規制の具体的なモデルとして、米連邦航空局（FAA）の航空機認証制度を提示した。アモデイCEOは「今やリスクが明らかに到来している以上、透明性を超えて、より真剣で拘束力のあるAI規制へと進むべき時だ」と述べ、AI企業が安全手順と試験結果を公開することを義務付ける既存の「透明性」中心の立法だけでは不十分だと強調した。Anthropicは昨年、カリフォルニア州の「AI安全性・透明性法」（SB 53）の成立を支持するなど自主規制を支持してきたが、今回の提案はさらに一歩踏み込んだものだ。
アモデイCEOは、AIの発展速度が政策や制度の変化の速度を大幅に上回っていると診断し、一言話すのに1日かかる映画「ロード・オブ・ザ・リング」の木の髭（ツリービアード）に政治制度をなぞらえた。AIはわずか4年で、コードを1行かろうじて書けるレベルから、主要AI企業のコードの大部分を作成するレベルに発展したが、政治が動くには数年かかるという指摘だ。
規制権限については慎重な条件も付した。政府の配信停止権限は、サイバーセキュリティ、生物兵器、AI制御の喪失、自動化R&Dの4つのリスク領域に厳格に限定し、政治的偏向や恣意的な決定を防ぐ保護措置を設けるべきだと提案した。
経済政策の分野でも破格の提言がなされた。アモデイCEOは「超高速成長と極度の不平等が同時に固定化された経済に閉じ込められ、抜け出せない世界になるリスクがある」とし、AIによる大規模な雇用代替の可能性に備えるべきだと警告した。短期的な対応策としては、低賃金の仕事に移った労働者に差額を補填する賃金保険の導入、人員削減を抑制した企業への税制優遇、再教育支援金の支給などを挙げた。労働需要の減少が長期化する場合には、AI企業への課税やキャピタルゲイン税の引き上げを財源とするベーシックインカム（UBI）または普遍的な資本口座の導入まで検討すべきだと主張した。
科学革新を阻む時代遅れの規制への批判も続いた。同氏はバイオメディカルなどの分野では、新薬承認に7～8年かかる既存の規制体系が、AIがもたらす革新の速度に追いつけず、むしろ足かせになりかねないと指摘。米食品医薬品局（FDA）のような規制機関が、AIシミュレーションや合成対照群を承認審査に活用できるよう制度を整備すべきだと注文した。
市民の自由を保護する方策も具体的に提示された。アモデイCEOは、完全自律型兵器の国内（対市民）使用を法律で禁止し、政府が民間企業から大量のデータを購入できるようにする法的抜け穴を塞ぐべきだと訴えた。また、法的手続きにおいて政府が使用するAIと同等レベルのAIシステムに市民がアクセスできることを保障すべきだと付け加えた。
地政学的な構想も示した。AIが国家の軍事力と経済力の支配的源泉になるとして、民主主義国家が半導体と製造装置を含むAIサプライチェーンを統制する排他的な連合を構築し、相互防衛を調整し、経済的・科学的利益を同盟国とのみ共有すべきだというものだ。
アモデイCEOは、AI業界の一部で提起される「AIに必要なのはより良いマーケティング」という見方にも正面から反論した。同氏は「人々がAIを心配するのは、そのリスクが現実であるという事実を正確に知っているからだ」と述べ、「AI企業を率いる者として、リスクを引き続き透明性をもって知らせるのが私の義務だ」と語った。AIが数年以内に、一つのデータセンターに天才たちが集まった国家レベルの能力に到達しうるという見通しも示し、先制的な規制の緊急性を重ねて強調した。
今回のエッセイは、AnthropicのClaudeシステムで最近発生したサイバーセキュリティ関連の不具合の後に公開されたものであり、一層注目を集めている。IPOを控えた時期に、最高経営責任者自らが政府の介入と規制強化を求める異例の動きが、市場や投資家にどのようなシグナルとして受け止められるかに関心が集まっている。