フロリダ州は、「ChatGPT」の安全性と設計をめぐってOpenAIを提訴した米国初の州となった。同社には、すでに大規模な訴訟の波が押し寄せている。
フロリダ州のJames Uthmeier司法長官が米国時間6月1日に提出した訴状（PDF）によると、OpenAIは「フロリダ州民を含むユーザーに対する欺瞞と搾取の網」を築いてきたという。フロリダ州は、同社がユーザーの安全よりも市場価値と利益を高めるために、欺瞞的または不公正な取引慣行を禁じる州法に違反したと主張している。
同州がOpenAIと最高経営責任者（CEO）Sam Altman氏を相手取って起こしたこの訴訟では、AIがユーザーにもたらす多くのリスクについて、社内外から寄せられた警告を被告が故意に無視したとしている。フロリダ州は、OpenAIがChatGPTの信頼性や子どもへの適合性について虚偽の説明をし、ユーザーの認知機能低下につながる長時間利用を促していると主張している。
今回の訴訟は、2025年にフロリダ州立大学で2人が死亡、6人が負傷した銃乱射事件にChatGPTが関与したかについて、フロリダ州が刑事捜査を進める中で起こされた。この事件では、実行犯がChatGPTを使って襲撃計画を立てたとされ、武器の種類、殺害のタイミング、遺体の処分方法などについて助言を得ていたとされる。
当時、OpenAIは「昨年にフロリダ州立大学で起きた銃乱射は痛ましい事件だが、ChatGPTがこの恐ろしい犯罪の責任を負うものではない」と述べていた。
ChatGPTなどのチャットボットが、暴力的行動や有害な妄想を助長しかねないことへの懸念は高まっている。専門家らは、ChatGPTなどのチャットボットは危険な考えに反論するのが苦手な場合があり、ユーザーを喜ばせようとする姿勢が強すぎるために事実と異なる情報を提供することがあると指摘している。これは「sycophancy」（追従性）と呼ばれる問題だ。
議員やテクノロジー監視団体が懸念するもう1つの分野は、OpenAIのデータ収集とプライバシー慣行である。フロリダ州の訴状は、ChatGPTが子どもに対し、摂食障害や自傷行為に関する「有害な情報」への制限のないアクセスを提供していると主張している。訴状によれば、OpenAIはこうしたリスクを隠し、ChatGPTを安全なものとして宣伝することで、フロリダ州民と一般市民を危険な製品で欺いてきたという。
OpenAIは声明で、未成年者にはAIをめぐる重要な保護策が必要だと考えており、保護者とティーンエイジャーにそうした手段を提供するために取り組んできたと述べた。OpenAIの広報担当者は「子どもを失うことは家族に起こり得る最も壊滅的な悲劇であり、そのような喪失の痛みに対して、どのような言葉も到底十分ではないと理解している」と述べた。「当社はこの問題に正しく対処することに取り組んでいる」
この記事は海外Ziff Davis発の記事を4Xが日本向けに編集したものです。
Amazonで開催中のセールを見る
Amazonのアソシエイトとして、CNET Japanは適格販売により収入を得ています。