Elon Musk氏が率いるxAIのAIアプリ「Grok」は1月、Appleの「App Store」から削除される寸前だった。実在の人物の性的ディープフェイクが「X」（旧Twitter）上で拡散した問題が原因だ。
NBC Newsの報道によると、Appleは米上院議員らへの書簡の中で、GrokをめぐるxAIとのやり取りを明らかにした。その中には、ディープフェイク問題に対処する変更が行われない場合、GrokをApp Storeから削除するという警告も含まれていた。今週、これとは別に公開されたNBCによるGrokの調査報道では、今でもGrokで性的画像が生成され、オンラインで拡散していることが判明している。
AppleとxAIの担当者はコメントの依頼にすぐには回答しなかった。米CNETは、1月にAppleとGoogleに書簡を送った上院議員3名の事務所にも連絡している。その書簡（PDF）は、Grokのディープフェイク問題に対処するため、アプリストアの規則を守らせるよう両社に促すものだ。
GrokはXユーザーが利用できる主要なAIツールであり、チャットボットとして質問に答えるだけでなく、画像や動画の生成も可能だ。2025年後半には、子供を含む人物の性的な画像をGrokに生成させ、Xに投稿するという悪用が広まっていることが報じられた。それ以来、Musk氏はGrokの変更や導入された保護策について最新情報を投稿してきたが、NBC Newsの報道は、それらの変更がGrokの性的ディープフェイク問題を根絶できていないことを示唆している。そうした画像には、露出の多い衣装やタオル、スポーツブラなどを身に着けた女性のAI生成画像も含まれている。
xAIはXに投稿した声明で、「当社はユーザーが同意のない露骨なディープフェイクを生成することや、当社のツールを使って実在の人物を脱衣させることを厳格に禁止している。xAIはこうした悪用を防ぐため、利用状況の継続的な監視、回避しようとする挙動のリアルタイム分析、モデルの頻繁な更新、プロンプトフィルター、追加の保護策などの広範なセーフガードを設けている」としている。
We strictly prohibit users from generating non-consensual explicit deepfakes and from using our tools to undress real people. xAI has extensive safeguards in place to prevent such misuse, such as continuous monitoring of public usage, analysis of evasion attempts in real time,… https://t.co/lhvuhr3p2D
— Safety (@Safety) April 14, 2026
Appleとのやり取り
NBC Newsは、AppleがGrokに対する世間の反発を受けて、XとGrokの両アプリに変更が必要だと警告を発したことを上院議員らに伝えたと報じている。xAIは両アプリのバージョンを提出したが、Grokアプリは一度却下され、Appleの承認を得られるよう修正されたと報じられている。
Appleの政府問題担当シニアディレクターであるTimothy Powderly氏は上院議員らへの書簡の中で、「Appleはこの種の画像と、それがもたらす害悪を強く嫌悪している。そのようなコンテンツを生成し、拡散させるアプリは当社のポリシーに違反しており、当社のプラットフォームでは許可されない」と述べた。
Ron Wyden上院議員の事務所が米CNETに共有した書簡には、Appleのアプリポリシーと、同社がXおよびGrokアプリに対して講じた措置が記されている。Appleは、そのプロセスを経て「Grokが大幅に改善されたと判断し、最新の申請を承認した。この承認により、Grokはユーザーのデバイスにインストールされたアプリを、改善されたソフトウェアに更新できるようになった。当社はGrokが今後の申請でさらなる改善を盛り込むことを期待する」としている。
Appleは今後GrokがAppleの規約に違反した場合、これを削除する可能性を残している。「全ての開発者と同じく彼らにも明確に伝えた通り、ガイドラインを順守できなければApp Storeから削除される」
オレゴン州選出の民主党議員であるWyden氏は、米CNETへのコメントの中でGoogleを批判した。同社が、Grokに関する懸念をめぐる議員らの要請に応えなかったからだ。Googleの担当者はコメントの依頼に対し、すぐには回答しなかった。
Wyden氏は、「GrokおよびXアプリにおける児童性的虐待コンテンツ（CSAM）や同意のないディープフェイクの忌まわしい拡散にどう対処したかという質問に対し、Appleが詳しく回答したことを評価する」と述べた。「一方、Trump氏の司法省が、膨大な量の卑劣なコンテンツを制作・配布した責任をXに問う措置を全く講じなかったことは衝撃的だ」
この記事は海外Ziff Davis発の記事を4Xが日本向けに編集したものです。
Amazonで開催中のセールを見る
Amazonのアソシエイトとして、CNET Japanは適格販売により収入を得ています。