ニューヨーク在住のOnlyFansクリエイター、Vanniallにとって、人工知能（AI）の進歩は厳しい現実をもたらしている。本人そっくりの、非常にリアルなディープフェイク画像や動画がネット上に出回り続けているが、彼女はその多くを削除できずにいる。
その上、VanniallはInstagramなどの主要なSNSプラットフォームで、アカウントの制限を受けずにフォロワーを増やすことにも苦労している。「いつも何かしらの通報や異議申し立てに対応しています」と、彼女は『WIRED』に語る。10万人以上のフォロワーをもつVanniallのInstagramアカウントは現在制限されており、ログインしなければ閲覧できない。
わたしがVanniallに、メタ・プラットフォームズはAIエージェント「Muse」による成人ユーザーとの性的なやりとりを認めていると伝えると、彼女は不満をあらわにした。「メタがAIエージェントで利益を得る一方で、生身の人間が官能的・性的な表現をすることは一切認めないなんて、不公平です」
ほかのアダルトコンテンツクリエイターからも、同様の不満の声が上がっている。メタのプラットフォームでは自分たちのアカウントが頻繁に制限される一方で、なぜメタのAIエージェントには、何百万人もの成人ユーザーと性的な会話を交わすことが許されているのか、という疑問だ。
AIには許される性的表現
「18歳以上を対象とするプラットフォーム上で、成人ユーザーが個人に合わせたAIエージェントと交わす1対1の非公開の会話は、SNS上でサービスをマーケティングしたり、プロモーションしたりすることとは大きく異なります」と、メタの広報担当者トレイシー・クレイトンは『WIRED』に語る。
Museは、サンフランシスコの一部の先進的なユーザー層にとどまらず普及した、初の「常時稼働型」AIエージェントだ。アプリのインターフェースはメッセージアプリのチャット画面に似ている。デジタルアシスタントにテキストを送り、カレンダーやメールなどの個人データへのアクセスを許可すると、夕食の予約と時間が重なるジムのレッスンをキャンセルするといった具合に、ユーザーの役に立つ方法を自ら見つけてくれる。
InstagramやFacebookなどを通じて幅広いユーザーにリーチできるメタの強みを背景に、何百万人もの新規ユーザーが初めてAIエージェントを試すことになった。そしてMuseは公開初月に、ダウンロードランキングの上位に入った。
カレンダーの管理など日常的なタスクをこなすMuseは、18歳以上を対象とするアプリ上で、成人ユーザーとの性的な内容を含む会話も認められている。メタの広報担当者は以前『WIRED』に対し、成人による合法的な行為を制限するつもりはないと語っていた。ただし、Museが生成するのは露骨な内容を含むテキストのみで、画像や動画は生成しない。
メタはInstagramではMuseと異なるモデレーション方針を採っているが、米国には露骨な性的コンテンツの投稿を認めているSNSもある。X（旧Twitter）は、多くのOnlyFansクリエイターにとって、新規ファンを獲得し、既存のファンと交流するための主要なプラットフォームであり続けている。また、イーロン・マスクによる旧Twitterの買収後、アダルトコンテンツの共有が認められているBlueskyを利用するクリエイターも増えた。
「人間なら許されないようなことが、なぜだかAIでは認められつつあるように感じます」と語るのは、OnlyFansのアカウントを運営し、クィアポルノの制作現場で長年働いてきたジズ・リーだ。リーは以前、Instagramの投稿に削除のフラグを立てられたことがある。アダルトコンテンツのクリエイターかどうかにかかわらず、クィアやトランスジェンダーの人々は大手SNS企業から不当に扱われることが多いと、リーは感じている。