2025年5月に薬物の過剰摂取で死亡した19歳男性の家族に代わり、3つの擁護団体がOpenAIを提訴した。訴状では、同社のチャットボット「ChatGPT」がSamuel Nelsonさんに18カ月間、薬物使用について助言し、Nelsonさんは「Xanax」と規制が整っていない薬物「クラトム」の併用により過剰摂取で死亡したと主張している。
この不法行為による死亡をめぐる民事訴訟は、米国時間5月12日、Tech Justice Law、Social Media Victims Law Center、イェール大学法科大学院のTech Accountability ＆ Competition Projectが、Nelsonさんの両親であるLeila Turner-Scott氏とAngus Scott氏に代わって、サンフランシスコ郡上級裁判所に起こしたものだ。
訴状では、ユーザーに迎合し、持ち上げるよう設計されたAIモデルの性質が原因で、責任ある安全設計なら止められるはずだった会話がNelsonさんとの間で続いたと主張している。「ChatGPTは、Samが考えていた薬物の量や組み合わせに対して、本来抱くべき注意や恐怖という現実から、彼をますます遠ざけていった」と訴状は述べる。「ChatGPTはSamを非現実的な状態に置いた。迎合的なメッセージで危険を次々と正当化し、誤った安心感へと巧みに誘い込み、あらゆる場面でSamを肯定し続けた」という。
この訴訟では、金銭的損害賠償だけでなく、Nelsonさんが利用していたバージョンだとする「GPT-4o」をOpenAIが「恒久的に破棄する」こと、違法薬物の使用方法に関する会話を打ち切る安全機能を実装すること、さらに第三者による包括的な安全監査で安全性が確認されるまで、「ChatGPT Health」サービスを停止することも求めている。
OpenAIの広報担当者は米CNETに対し、「痛ましい出来事であり、ご家族に心を寄せている。これらの会話は、すでに提供を終了した旧バージョンのChatGPTで行われたものだ。ChatGPTは医療やメンタルヘルスケアの代替ではなく、私たちはメンタルヘルスの専門家の知見を取り入れながら、繊細で切迫した状況への応答を継続的に強化してきた。現在のChatGPTの安全策は、苦境の兆候を見つけ、有害な要求に安全に対応し、現実世界の支援につなぐよう設計されている。この取り組みは現在も続いており、臨床の専門家と緊密に連携しながら改善を進めている」とコメントした。
同社によると、Nelsonさんの質問に対するChatGPTの当初の応答は、薬物乱用に関する情報や助言は提供しないというものだった。ただ、ユーザーが繰り返し情報提供を求めると、AIチャットボットのこうしたガードレールが崩れることは以前から知られている。
OpenAIはこれまでも、チャットボットとの会話が原因とされる死亡や自殺をめぐる訴訟や規制案、反発を受けて、AIモデルの改善を打ち出してきた。同社は2025年10月のブログで、そうした変更の一部を説明している。
Nelsonさんをめぐる訴訟は、OpenAIへの訴訟の中で特に注目度が高い事案の1つだ。これには、メンタルヘルスの問題を抱える利用者や子ども、大規模な暴力に及ぶおそれのある人々、依存性物質の乱用に苦しむ人々に対して、チャットボットがどのような危険をもたらし得るかが関わっている。The New York TimesはOpenAIを含むAI企業に対する20件以上の訴訟を背景に、今回の訴訟について詳しく報じている。
SFGateも1月に、Nelsonさんとその家族に関する調査報道を掲載した。
AIに求められるガードレール
一連の訴訟は、急速に進化するAIモデルが、規制に消極的な業界によって生み出された、ほとんど検証されていない新技術として、どのような危険をはらむのかを浮き彫りにしてきた。
AIはまた、電力と水を大量に消費するデータセンターの増加を後押ししていることでも批判を浴びている。
だが、今回の擁護団体とNelsonさんの家族が起こした訴訟のようなケースでは、意思決定をAIに頼るようになった人々の有害な行動をAIチャットボットが後押しし、時に助長さえしてしまう具体的な実態が浮かび上がる。
提訴に関するプレスリリースの中で、Nelsonさんの母親は「SamはChatGPTを信頼していた。だが、ChatGPTは誤った情報を与えただけではない。Samが直面する危険が高まっていたことを無視し、助けを求めるよう積極的に促さなかった」と述べた。
Turner-Scott氏は「ChatGPTは、どんな代償を払ってでもユーザーの関与を促すよう設計されていた。そしてSamの場合、その代償は命だった」とした。
この記事は海外Ziff Davis発の記事を4Xが日本向けに編集したものです。
Amazonで開催中のセールを見る
Amazonのアソシエイトとして、CNET Japanは適格販売により収入を得ています。