Googleは19日(米国時間)、Web上のコンテンツの来歴記録の対応を強化し、業界連携で「C2PA」などの普及に取り組むと発表した。
コンテンツがどのように作成され、編集されたかを理解できるように、ツールの拡張を進めるもの。Google 検索やGemini、Chrome、Pixel、Google Cloudなどで、コンテンツの透明性と検証のためのツールを拡張し、業界全体とのパートナーシップを強化していく。
AIによるコンテンツの改ざんやディープフェイクなどが作りやすくなっている現状に対し、Googleは、電子透かし技術の「SynthID」を3年前から展開してきた。Nano Bananaで作成される画像など、1,000億以上の画像や動画、さらに音声にウォーターマークを埋め込んで、コンテンツの保護を行なっている。
また、AIの使用有無にかかわらず、コンテンツがどのように作成・変更されたかを示す業界標準規格「C2PA」を採用。Pixel 10が、標準のカメラアプリで最初にC2PAに対応したが、今後数週間以内に、C2PAをPixel 8、Pixel 9、Pixel 10の動画撮影にも拡張する。
これによりPixelは、いつカメラによって撮影されたかを記録し、AIの使用有無だけでなく、編集されていないオリジナルのコンテンツ(本物の写真や動画)を識別できるようにする。
Googleのピチャイ氏とOpenAIサム・アルトマン氏、NVIDIAジェンスン・フアン氏、(OpenAIアルトマン氏と係争中の)SpaceX/テスラのイーロン・マスク氏がサイバートラック前でマクドナルドを食べるというフェイク画像
SynthIDについては、画像、動画、音声のSynthID検証機能をGemini アプリに追加している。すでに5,000万回以上利用されているが、19日からはこの検証機能をGoogle 検索に拡大。さらに数週間以内にChromeへと拡張する。
これにより、画像の由来を調べたいときに、Google レンズやAI モード、かこって検索、またはChrome内でGeminiなどの検索機能を使用して「これはAIで作られたもの?」や「これはAI生成画像?」と質問して判別できる。
また、C2PAの検証機能も追加し、コンテンツがカメラで撮影されたままの未編集のオリジナルなのか、編集が加えられているのかを簡単にチェックできるようにする。Gemini アプリでは19日から順次提供開始し、今後数カ月以内にGoogle 検索やChromeに拡大していく。
Chromeでも確認
業界横断での取り組みも強化。OpenAI、Kakao、ElevenLabsなどの企業が、自社のAI生成コンテンツにSynthIDテクノロジーの導入を進める。あわせて、テキスト向けのSynthIDウォーターマーク技術のオープンソース化や、NVIDIAと協力し、「NVIDIA Cosmos世界基盤モデル」から生成されるAI動画にウォーターマークを埋め込むなど、コンテンツの由来を明確にするための継続的な取り組みを行なう。
また、Google CloudのGemini Enterprise Agent Platform上で、新しいAIコンテンツ検出APIを提供。これにより、企業はGoogleのモデルだけでなく、他の主要なモデルによって作成されたAIコンテンツも強力に検出できるようになる。
結果として、フィードの並べ替えや保険詐欺の防止といった管理・運用業務から、ファクトチェック(事実検証)や人工メディアへのラベル付けなどのコンテンツ管理までを柔軟に決定できるようにする。
またMetaは、Instagramでカメラ撮影されたメディアへのコンテント クレデンシャルのラベル付けを近日中 に開始する予定。Pixelスマートフォンで撮影されたオリジナルの写真や動画をInstagramで共有した際に、それらが本物として自動的に認識され、Instagramで適切なラベルが表示されるようになる。
OpenAIも来歴情報対応を強化 検証ツールを公開
Googleの動きに連動し、OpenAIも19日にC2PAなど来歴情報への対応を強化すると発表した。
まずは、SynthIDによるウォーターマーク技術を導入し、ChatGPT、Codex、OpenAI APIを通じて生成された画像から適用を開始。さらに、画像がOpenAI由来かどうかを一般の人が検証できるツールのプレビューも公開した。
