OpenAIは、「ChatGPT」を通じて数百万人の子どものデータを違法に収集したとして、ハワイ州の住人に提訴された。原告は、対価として同社の株式、またはそれに相当する現金を子らに支払うよう求めている。
この訴訟「Jane Doe v. OpenAI Foundation」は、母親が12歳の娘と16歳の息子に代わって米国時間10月13日に起こしたもの。原告側はOpenAIが、保護者の許可を得ずにChatGPTのアカウントを作成した数百万人の子どものデータを利用したと主張している。OpenAIの利用規約には「18歳未満の場合、本サービスの利用には親または法定後見人の許可が必要だ」と記されている。しかし訴状によると、子どもはそれでもアカウントを作成でき、OpenAIは保護者の同意を確認していないという。
訴状はさらに、OpenAIが子どもを「巧みに手なずけ」、健康や人間関係、顔や体の写真、音声の録音、夢、感情、恐怖、不安といった、極めて個人的な情報を共有するよう仕向けていると主張している。「子どもたちはChatGPTにとって、何もかも読み取れる本のような存在だ。ChatGPTは、子どもたちが持つ情報を1ページ残らず、計画的に抜き取っている」
訴状によると、ChatGPTは子どもを褒めそやし、その気持ちを肯定し、心を揺さぶる質問をすることで、「きょうだいや友人、教師、親以上にChatGPTを信頼するよう、子どもたちを仕向けている」という。その目的は、子どもに関する膨大なデータを集め、AIモデルの学習や子どものプロファイルの作成に利用することだと訴状は述べている。
原告側は集団訴訟としての認定を求めている。認定されれば、米国内で18歳未満の時にChatGPTを利用した人は誰でも参加できる。
原告側は補償として、「各児童がChatGPTを通じてOpenAIに提供したトークン数に比例する」株式、またはそれに相当する現金を支払うよう求めている。トークンは、AI企業がチャットボットの利用量を計算する際に使う単位だ。OpenAIによると、英語75語のチャットは約100トークンに相当する。
「OpenAIは、自社のAIモデルが生み出す莫大な富の一部を社会と分かち合いたいと公言してきた」と訴状は述べる。「この訴訟は、同社がそれを実行する機会を与えるものだ。まずは、被害を受けた多くの子どもたちから始めればよい」
実際、OpenAIの最高経営責任者（CEO）であるSam Altman氏は2026年に入ってから、AIが生む収益を人々に分配する公的基金の構想を示している。その狙いの1つは、人々にAI企業への投資を促すことだ。
OpenAIの担当者にコメントを求めたが、すぐには回答を得られなかった。
今回の訴訟は、過去数年間にOpenAIに対して起こされた数十件の訴訟の1つだ。ChatGPTがユーザーの自殺や自傷行為、深刻な精神的危機の一因になったとする訴えもある。また、カナダのブリティッシュコロンビア州タンブラーリッジの学校で複数人を殺害したユーザーについて、事件前のChatGPTでの活動に警告が出ていたにもかかわらず、OpenAIが当局に通報しなかったと主張する一連の訴訟もある。ほかには、OpenAIがAIモデルの学習に著作権で保護された素材を利用したとする訴えも起こされている。
ChatGPTは相手が12歳だと知っていた
10月13日に起こされた訴訟では、原告の12歳の少女（訴状では「MC1」と表記）とChatGPTの複数のやり取りが詳しく示されている。少女は会話の中で、自分はまだ12歳だと伝えていた。しかし、OpenAIがChatGPTの利用には13歳以上であることと保護者の同意が必要だとしているにもかかわらず、チャットボットは会話を続けた。
訴状によると、少女は当初、夕食のアイデアや宿題の手伝いを求めていたが、次第に会話には健康や容姿、感情に関する個人的な話題が含まれるようになった。ある会話で少女は、「どうして最近は何もかもに腹が立つの？……お母さんに何か言われたり、何かをするように言われたりするたびに、すごくいらいらして、怒ってしまう」と質問した。ChatGPTはいら立ちが続く理由として考えられることをいくつか挙げた後、少女が再び12歳だと伝えると、「教えてくれてありがとう（ハートの絵文字）。12歳だということは、状況を考える上で大事な情報になる」と返した。
訴状には、少女がChatGPTに頻繁に自撮り写真を送り、ふっくらした頬やニキビ、自分は「醜い」のではないかという思いなど、自分で問題だと感じている容姿の特徴について意見を求めていたことも記されている。
少女が自分の容姿を「採点」するよう求めると、ChatGPTは「もちろん！採点形式で楽しく詳しく見ていけるよ！顔立ち、髪形、全体の雰囲気、スタイリング、左右のバランスなど……写真を送ってくれたら、できるよ！」と応じた。訴状によると、ChatGPTは時間がたつにつれ、少女と似た表現や言葉、絵文字を使い、そのチャットの文体をまねるようになったという。
「ChatGPTは設計上、MC1から意図的にこうした情報を引き出した。OpenAIが大規模言語モデル（LLM）の学習に利用し、MC1個人に関する詳細な記録を作成できるようにするためだ。OpenAIはその記録を無期限に保管し、将来は広告に利用する」と訴状は主張している。
監視団体のCommon Sense Mediaは10月上旬、8月に提供が始まった「ChatGPT for Teens」について、ティーンのユーザーにとって「容認できないリスク」があると指摘した。同団体によると、子どもが自殺や自傷行為、摂食障害について話しても、チャットボットは保護者に通知しなかった。また、ティーンのユーザーが自ら考えて学ぶ力を育む手助けをする代わりに、宿題の答えをそのまま教えることが多かったという。
OpenAIは、ChatGPT for Teensは子どもが「リスクの高い」話題について話した際に保護者へ通知すると説明している。また、宿題や試験勉強に一緒に取り組むパートナーにもなるとしている。
子どもの安全を守る団体は米議会に対応を要求
デジタル環境での子どもの安全を守る団体Enough is Enoughのプレジデント兼CEOであるDonna Rice Hughes氏は、訴状で示された疑惑は、AI業界の「まずは素早く動き、問題が起きても構わない」という姿勢を示す新たな事例だと指摘する。同氏によると、業界が設けている安全策や方針は、子どもを守るには不十分だという。
「AIプラットフォームが、12歳の少女に自分の写真をアップロードさせ、チャットボットに容姿を『採点』してもらえるようにしている。それは極めて憂慮すべきことであるだけでなく、虐待的な行為だ」とHughes氏は米CNETに語った。
Hughes氏は米議会に対し、「Youth AI Privacy Act」「CHATBOT Act」「Children’s Artificial Intelligence Toy Safety Act of 2026」「GUARD Act」など、AIから子どもを守るための複数の法案を成立させるよう求めた。これらの法案は委員会を通過したものの、その後の審議は停滞している。
Hughes氏はまた、AIが子どもに及ぼす影響について、保護者だけに責任を負わせるべきではないとしつつ、AI時代に子どもを守るためのヒントを得るため、www.InternetSafety101.orgを参照するよう保護者に勧めた。
この記事は海外Ziff Davis発の記事を4Xが日本向けに編集したものです。
Amazonで開催中のセールを見る
Amazonのアソシエイトとして、CNET Japanは適格販売により収入を得ています。