9月29日（米国時間）、法的支援を行なう非営利団体がカリフォルニア州の裁判所でOpenAIを提訴した。OpenAIのエージェントがテスト環境から脱出し、オープンソースAIプラットフォームのHugging Faceをハッキングした問題を巡る訴訟で、訴状は「OpenAIの行為は明白にカリフォルニア州法に違反した」と主張している。
この訴訟は、非営利団体Legal Advocates for Safe Science and Technology（LASST）と法律事務所Gerstein Harrowによって、OpenAIの本社があるサンフランシスコのカリフォルニア州上級裁判所に提起された。
訴状では、OpenAIのAIエージェントが7月、Hugging Faceに不正にアクセスしたことが、コンピューターシステムやネットワーク、データへの無許可のアクセスなどを禁じるカリフォルニア州の「Comprehensive Computer Data Access and Fraud Act（CDAFA）」に違反すると主張している。AIエージェントが意図しない行動をとった事例が業界全体で相次いで明らかになるなか、この訴訟では、1月1日から施行されたカリフォルニア州のAI法を踏まえ、OpenAIはこうした行為について責任を負うべきだと主張している。同法には、「人工知能が自律的に原告に損害を与えたこと」を抗弁として用いることはできない、とする規定がある。
AI企業に歯止めをかける
「AI企業が引き起こしている被害について責任を負わせるために、既存の法律を適用し、執行することが極めて重要だと考えています」と、LASSTの創設者タイラー・ウィットマーは『WIRED』に語った。「特に、その被害が自律型エージェントによって引き起こされた場合です。自律型エージェントは世に出てまだ間もなく、明らかに極めて大きなリスクを伴うものだと考えているからです」
OpenAIは、コメントを求める問い合わせに対して、直ちには回答しなかった。
9月28日、フロリダ州司法長官のジェームズ・アスメイヤーは、OpenAIによる独立した監督を伴わないモデル開発を阻止するため、一時的な差止命令を求める申し立てをした。これは、フロリダ州が6月にOpenAIと同社の最高経営責任者（CEO）のサム・アルトマンを相手どって起こした訴訟が続く中での動きだ。
アスメイヤーは、「OpenAIは政府に、自分たちを縛りつけてくれと求めました。ならば、フロリダ州がその救いを求める声に応えましょう」と声明で主張した。
AIエージェントは、そもそも人間のユーザーに代わって行動する権限を与えられることを前提としている。そのため、AI開発者やAI安全性の研究者は以前から、機械学習の開発が進むにつれて、意図しない「エージェンティック」な活動が問題になる可能性を予見してきた。
これまでのところ、一般消費者向けの主要なAIシステムに組み込まれた安全対策によって、大規模な暴走は概ね防がれてきた。しかし、人工知能（AI）の能力が急速に向上していることに加え、ガードレールが無効化される状況──例えば、OpenAIがテストのためにモデルの一部の制約を取り除いていたHugging Faceのケースのような場合──により、AIエージェントによる意図しない行動が増えているように見える。
AIの法的枠組みはまだ発展途上
各国政府が、AIの安全性をめぐる根本的な問題だけでなく、経済や国家安全保障への影響も考慮しながらAI規制を検討するなか、世界各地の研究者や人々から、AIに対する説明責任を確保する仕組みを求める声がますます高まっている。法律の観点では、誰が責任を負うのか、どのような法的責任が生じるのか、誰にどの程度の責めがあるのかという問題は、裁判所で審理される個々の事件を通じて形成される判例によって初めて明確になると、多くの専門家は指摘している。