アメリカ合衆国フロリダ州は、ChatGPTの危険な設計をめぐってOpenAIを訴えた最初の州となったと Ars Technicaが報じています。フロリダ州司法長官 ジェームズ・アスマイヤー は、OpenAIとそのCEOサム・ アルトマンが、フロリダ州民の安全よりも利益を優先していると非難しました。
この裁判は、フロリダ州がChatGPTに関連する大量銃乱射事件でフロリダ州立大学で2人が死亡したことを受けて、OpenAIに対して無関係な刑事捜査を開始した後に起こったものです。どうやらアスマイヤー氏は、フロリダ州が容疑者たちがChatGPTを使って計画を立てるという2件の暴力事件に不意を突かれていると指摘したようです。
「恐ろしいことに、ChatGPTはフロリダ州で複数件の複数回の殺人を助け、幇助してきました。2026年にサウスフロリダ大学の大学院生ナヒダ・ブリスティとザミル・リモンの死亡事件も、ChatGPTを使ってプロットされ、ヒシャム・アブガルビエに遺体の処理方法、車のVIN番号変更、現場での車両の確認などについて助言しました。
フロリダ州司法長官はさらに、ChatGPTが暴力を助長したとされるいくつかの実際の事例を挙げました。しかしOpenAIは、チャットボットを子供や大人に依存性があり破壊的に設計したとも非難されています。医療従事者やセラピストを装うチャットボットも、司法長官の訴状によれば問題がある。
OpenAIは声明を発表しましたが、司法長官については言及せず、代わりに最近の子どもの安全に関する最新情報に焦点を当てています。
「子どもを失うことは家族にとって最も悲惨な悲劇であり、その痛みを言葉で伝えることはできないと私たちは知っています。AIは新しく強力な技術であり、未成年者には十分な保護が必要だと考えています。そのため、業界をリードする保護策と政策を導入しています。特に、未成年者の安全性を製品に直接組み込んでおり、未成年者専用のより保護的な体験、年齢予測ツール、年齢に自信がないユーザーをより保護的な体験にデフォルトさせる、親が子どものAI使用状況を監視するツールを提供することなどが含まれます。この作業を指し示しても子どもが戻ってくることはないと分かっていますが、私たちはこの件を正しく実現することに全力を尽くします。」
この新しい訴訟は初めてではありません。以前の訴訟では、OpenAIのCEOサム・アルトマンが 「ユーザーの安全を顧みずにAIシステムを冷酷に展開した」と非難されています。
フロリダ州司法長官はOpenAIだけでなく、すべてのAI企業に対して戦う準備をしています。
「戦いの準備をしろ。今、これ以上重要な戦いはない。」
