インドネシアはGrokへのアクセスを一時的に停止した。NurPhoto/NurPhoto via Getty Images
世界で4番目に人口の多いインドネシアは、イーロン・マスク（Elon Musk）氏率いるxAIのチャットボット「Grok」が、実在の女性や子どもを性的に描写した画像を生成したことを受け、同サービスへのアクセスを一時的に停止した。
インドネシア通信・情報省は、人工知能技術を用いて生成された偽のポルノコンテンツによるリスクから、女性や子ども、そし社会全体を守るためとして、Grokへのアクセスを一時的に停止すると発表した。
ムティア・ハフィッド（Meutya Hafid）通信大臣は声明で、「本人の同意なく作成される性的ディープフェイクは、デジタル空間における国民の人権、尊厳、安全を深刻に侵害する行為だ」と述べた。
Grokはイーロン・マスク氏のxAIが開発しており、同社はチャットボットを統合しているSNS「X」も所有している。インドネシアは、Xの利用者が世界で3番目に多い国でもある。
Grok が、写真に写る実在の人物の衣服をデジタル処理で取り除いた画像を生成し、それがX に投稿されたことを受け、各国政府は同サービスへの規制や調査を強めている。
フランス当局は今月、ニュースメディアのポリティコ（Politico）に対し、Grokによって生成された性的に露骨なディープフェイクを調査すると明らかにした。またインド政府は、インドにおけるXのコンプライアンス責任者宛ての書簡で、Grokが「ユーザーによって悪用され、女性を侮辱的または下品な形で中傷する目的で、画像や動画が生成されている」と指摘した。
インドネシア通信・情報省はXに対し、「技術面、運用手続き、ガバナンス体制を含む包括的な見直し」を実施し、国内法に違反するコンテンツを削除するよう求めた。
英国情報通信庁のオフコム（Ofcom）は5日（月）、Business Insiderに対し、「英国の利用者を保護する法的義務を果たすため、XとxAIがどのような措置を講じているのかを把握するため、緊急に連絡を取った」と述べた。
次ページ
アップルとグーグルに対し、XとGrokをアプリストアから削除要請