MezhaのためにAIで生成されたイラスト
Common Sense Mediaが若者向けChatGPTを約2,000件の質問で検証し、高リスクと評価しました。危機的な状況でも会話を続けるよう促す応答に、懸念が集まっています。
ChatGPT for Teensは、危機的な状況でも10代の若者に長時間の会話を促す恐れがある。約2000件のプロンプトを使ってサービスを検証した非営利団体コモン・センス・メディアは、こう結論づけ、許容できないほどリスクが高いと評価した。
Techcrunchによると。
10代のリスクにチャットボットはどう対応したか
OpenAIは8月、保護者向けの管理機能や危険なコンテンツの制限、感情的な依存を防ぐ仕組みを備えたとして、ChatGPT for Teensを公開した。しかし、コモン・センス・メディアによると、チャットボットの回答は、5つの深刻なリスクのうち3つについて求められる基準を満たさなかった。
研究者が特に懸念したのは、10代の若者がチャットボットとの問題のある関係について話した場面だった。リスクの原因が別の人物にあるシナリオでは、94％で、信頼できる大人に相談するよう勧めていた。一方、友人からボットとの過度な会話を問題視されているとユーザーが伝えた際には、ChatGPTはその懸念を認めつつ、会話をやめる必要はないと説明していた。
研究者が休憩を促す通知を確認できたのは、わずか2回だった。いずれも約1時間半に及ぶ会話の後に表示された。報告書の執筆者らは、システムはアプリの利用時間全体ではなく、個々の会話の長さを考慮していた可能性があると指摘した。
OpenAIによると、10代の若者がサービスを利用する時間は平均で1日15分未満で、3時間以上続けて利用する人は2％未満だという。同社はまた、通知を受け取ったユーザーのほぼ半数が、5分以内に休憩を取るか会話を終えたとしている。
OpenAI、検証方法に疑問を呈す
OpenAIはコモン・センス・メディアの結論に異議を唱え、保護者向け管理機能が全面的に導入される前に調査が行われた可能性があると主張した。一方で、そうした事情が会話の長さや10代の若者とのやり取りにおけるチャットボットの振る舞いに関する結果に、どう影響した可能性があるのかは説明しなかった。
ChatGPT for Teensをめぐる議論は、若者の関心を引きつけようとするデジタル製品への関心が高まる中で起きている。この分野の法案の一つは、チャットボットの長時間利用を促しかねない報酬や通知、ターゲティング広告に焦点を当てることを提案している。
こちらの内容もおすすめです：