人間と人工知能（AI）の相互作用を長年にわたり研究してきた専門家、ジュリー・カーペンターは、チャットボットを擬人化しようとするユーザーを責めることはない。人間とロボットの関係性を論じた著書『The Naked Android』［未邦訳］でも知られる彼女によると、ChatGPTのようなツールは、社会的体験を再現し、高度にパーソナライズされた記憶ややりとりを通じて、こうした反応を引き出すように設計されている。
しかしこうした一方的な関係性は、AI生成の性的コンテンツが選択肢として加わることで、さらに複雑になり、場合によっては深刻な結果を招く可能性がある。カーペンターは、OpenAIが大人向けにChatGPTで「セクスティング」（性的な内容を含むメッセージのやりとり）を可能にする計画に懸念を抱いている。「人々が自分のセクシュアリティを探求すること自体には賛成です。しかし、それが楽しいだけでなく安全であることも重要です」と彼女は言う。「データには監視という側面がついてくることを、人々は強く意識する必要があります」
OpenAIは2年前、AIモデルの「振る舞い」の設計を説明する公式文書の中で、成人ユーザーがChatGPTを使ってエロティックなコンテンツを生成できる可能性を初めて示唆していた。現在も同社はリリースに向けた計画を進めているとみられるが、その時期は不透明なままだ。ここ数カ月、外部の専門家で構成される諮問委員会は、この機能のリスクについて懸念を表明している。最悪の場合、「性的な自殺コーチ」のような存在が生まれる可能性があると『The Wall Street Journal』は報じている。一方、『WIRED』の取材に対し、OpenAIはコメントを控えた。
“親密さ”の最適化
機械に対して性的な会話をすること自体は新しいことではない。「人々がいずれ行なうことを収益化しようとする動きは、避けがたいものです」と、デジタルセックスを研究するイギリスのキングス・カレッジ・ロンドンでAIと社会を専門とするケイト・デブリンは語る。
しかし今回注目すべきなのは、一般的なプラットフォームが性的コンテンツを受け入れ始めている点だ。性的コンテンツを扱うチャットボットは収益性の高い分野とされてきたが、これまでは目立たないニッチなサイトや、本人の同意なしでつくられるディープフェイク画像、あるいは「メカヒトラー」モードで話題になったイーロン・マスクのGrokのような限られた領域にとどまっていた。
「アダルトモード」が実装された場合、ChatGPTがユーザーの何をどのように記憶するのかは大きな焦点となる。この数年でOpenAIは、ユーザーの好みを記録し、応答をパーソナライズするメモリ機能を強化してきた。例えばヴィーガンにはステーキハウスを勧めず、ハイキングに興味を示せば過去の会話から所在地を推測し、近隣のトレイルを提案する、といった具合だ。
では、こうしたデータ記録と高度な個別化が、何百万人もの成人ユーザーによる私的でセンシティブなやりとりと結びついた場合、何が起きるのだろうか。とりわけ、AIとの親密な対話が深まるほど、ユーザープライバシーに関するリスクは一層高まる可能性がある。
食や映画の好みといった一般的な嗜好にとどまらず、より個人的な関心や空想に関する情報まで蓄積・反映されるようになれば、応答はますます精緻に最適化されていく。その一方で、OpenAIがどこまでのデータを記録し、どのように扱うのかという管理のあり方は、依然として明確ではない。
データ共有に伴うリスク
リリース時には、最大72時間保存された後に自動削除される「一時チャット」機能に安心感を見出すユーザーもいるだろう。この機能を有効にすれば、会話は履歴に残らず、モデルの改善にも使用されない。