しかし大きな影響を与えるには至らず
Image:Mehaniq/Shutterstock.com
OpenAIは、中国拠点とみられる勢力がChatGPTを利用し、米国の世論に影響を与えようとしていたプロパガンダ・キャンペーンを確認したと報告している。
同社はこれらの活動を2つのクラスターに分類しており、その1つを「Data Center Bandwagon（データセンター便乗）」グループと名付けている。このグループは、AIデータセンターが電力需要を押し上げ、それが消費者の電気料金の上昇につながるというテーマについて、英語の論点整理や漫画などの画像生成をChatGPTに依頼していたとされる。
報告によれば、これらのユーザーはSNS上で多様な背景を持つ米国人になりすまし、ChatGPTが生成した文章や画像を投稿していた。OpenAIは、彼らが「中国の地方政府向けに業務を行う民間企業のソーシャルメディアチーム」の一部である可能性が高いとみている。
さらに、このグループはChatGPTにアップロードしたファイル内に、「世論をどのように誘導するか」「いかに発覚せずに偽アカウントを作成するか」といった戦略を記していたという。
また、海外在住の中国人も標的としており、中国政府に批判的な活動家や政治評論家に対する嫌がらせを目的とした侮辱表現の生成までChatGPTに依頼していた。加えて、米国在住の中国系移民や専門職になりすまし、オンライン上の著名人に対して米国の政策的失敗について発言を促すコンテンツも作成していたとされる。
一方で、投稿には電力会社の容量オークションやデータセンターの電力需要を扱う正規のニュース記事へのリンクも含まれていた。なお、OpenAI以外の研究者や分析機関は、プロパガンダや影響工作では虚偽情報だけでなく事実や正確な情報も織り交ぜて信頼性や説得力を高める手法を指摘している。
なお、AIデータセンター周辺における電気料金の高騰は実際に発生している問題である。Bloombergの報道によれば、データセンター近隣では月間の電気料金が5年前と比べて最大267％上昇しているという。
OpenAIが確認したもう1つのクラスターは、米国の関税政策や技術政策を批判するコメントや画像を生成していた。このグループは特に反米的なコンテンツの作成に注力し、米国が同盟国を裏切ってきたとする主張を強調していた。
また、生成画像に中国の習近平国家主席を登場させないよう指示していたほか、台湾ユーザーを標的とするため、英語、イタリア語、日本語、繁体字中国語でのコメント作成を求めていたとされる。
OpenAIは、これらのキャンペーンが大きな「実質的エンゲージメント」を獲得することには失敗し、世論を大きく動かすには至らなかったと評価している。
それでも重要なのは、彼らが選んだテーマが、米国内ですでに実在し広く議論されている問題であった点である。OpenAIは「運営側は自らの正体や動機を隠したまま、米国のAI能力の将来をめぐる継続的な議論に密かに介入しようとした」と説明している。
また、なぜ彼らがDeepSeekなど中国発のサービスではなく、あえて米国企業であるOpenAIのチャットボットを利用したのかは不明である。報告書でも「この選択を後押しした要因を判断できる立場にはない」と記されている。
関連キーワード: