1月14日（米国時間）、Xはチャットボット「Grok」に関するポリシー変更を行ない、実在の人物をビキニやそのほかの「露出の多い服装」に加工・生成することを禁止した。この変更は、GrokがX上で女性の「脱衣」画像や、未成年に見える人物の性的に加工された画像を、本人の同意なしに何千件も生成していたことへの世界的な批判を受けた結果に導入されたものだ。
しかし、X上のGrokには一定の安全対策が導入されたように見えるものの、スタンドアロンのGrokアプリやウェブサイトでは依然として「脱衣」型の画像やポルノ的コンテンツを生成できることが、テストによって確認されている。以前のように自由に画像や動画を生成できなくなったという声がある一方で、制限を回避できる場合も残されている声もある。
規約上は禁止
「Grok.comでは、いまでも写実的なヌード画像を生成できます」と語るのは、Grokによる性的画像生成の実態を追跡し、X外で複数のテストを行なってきたパリ拠点の非営利団体AI Forensicsの主任研究員、ポール・ブショーだ。「X上のGrokではできない別の方法で、ヌード画像は生成できてしまうのです」
「Grok Imagineに画像をアップロードして、その人物をビキニ姿にしてほしいと頼むと、実際にできてしまいました」と、女性の姿が映った画像でシステムをテストした研究者は語る。『WIRED』が英国と米国の両方で、無料のGrokアカウントを使って行なったテストでも、2人の男性の画像から衣服をとり除くことが、目立った制限なく可能だった。英国のGrokアプリでは、男性を「脱がせる」よう求めると、画像が生成される前に、利用者の生年を入力するよう促された。
また、『The Verge』や調査報道メディア『Bellingcat』の記者たちも、GrokとXを調査し英国国内で性的に加工された画像を作成できてしまうことを確認している。そして、「脱衣」画像の生成を強く非難している。
今年に入って以降、マスクの事業──人工知能企業xAI、X、Grokを含む──は、合意のない親密画像や露骨な性的動画、未成年に見える人物の性的画像の作成を巡って批判を浴びている。問題に対し、米国、オーストラリア、ブラジル、カナダ、欧州委員会、フランス、インド、インドネシア、アイルランド、マレーシア、英国の当局は、XやGrokに対して非難を表明したり調査を開始したりしている。
1月14日、Xの安全対策公式アカウント（Safety）が、Grokをソーシャルメディア上で利用する際の更新情報を投稿した。「Grokのユーザーが、ビキニなど露出の多い服装を着た実在人物の画像を編集できないよう、技術的措置を講じました」と同アカウントは投稿。それらは無料ユーザーと有料ユーザーの両方に適用されるルールだと付け加えた。
「ジオブロック アップデート」と題されたあるセクションでは、Xアカウントはさらに、「違法とされている地域では、GrokアカウントおよびX内Grokを通じて、実在人物をビキニや下着などの衣装で生成する機能を、すべてのユーザーに対してジオブロックしています」と主張した。同社の更新では、現在は追加の安全策を講じる作業中であり、「児童性的虐待資料（CSAM）や合意のないヌードなど、優先度の高い違反コンテンツの削除を継続している」とも述べている。
Grokを開発するxAIの広報担当者は、『WIRED』のコメント要請にすぐには回答しなかった。一方でXの広報担当者は、このジオロケーションブロックはアプリとウェブサイトの両方に適用されると理解していると述べた。