「やじうまの杜」では、ニュース・レビューにこだわらない幅広い話題をお伝えします。
同社のアナウンス
米Anthropicによると、今後の「Claude」モデルが生成する文章には“透かし”（ウォーターマーク）が埋め込まれるとのこと。つまり、AIが生成したことがわかるようになるらしいのですが、紙幣の透かしのように目に見えるものではないそう。画像生成AIのように成果物のメタデータへ埋め込む仕組み（C2PA）でもないようです。一体どんな仕組みになっているのでしょうか。
「Claude」のような大規模言語モデル（LLM）はテキストを生成する際、前の部分に続くものとしてもっとも妥当、または可能性の高い単語を選びながら、テキストを組み立てていきます。
たとえば「今日の空は……」という文章へ言葉をつなげる場合、「甘い」といった言葉がくることはあまりないでしょう。「どんよりしている」や「灰色だ」などの言葉が続く可能性の方が高いはずです。しかし、「どんよりしている」や「灰色だ」はどちらがきても最終的なテキストの意味はあまり変わらないと考えられます。こうした“どちらでもいい”場合、LLMは最終的に乱数で後続テキストを決めます。
Anthropicが実装する“透かし”でキーになるのは、この“どちらでもいい”場合の単語のチョイス。適当な乱数生成器を使う代わりに、特定の鍵（キー）と直前のいくつかの単語を使って、次の単語を決めるようにします。すると、ユーザーからはランダムに見えます。でも、単語のチョイスの傾向を分析すれば、“鍵を使って選んだ場合の結果と辻褄が合うか”を確かめられるというわけです。
同社はモノポリーゲームを例に挙げ、サイコロの代わりに円周率の数字を順番に使ってコマを進めても、プレイヤーにとってはランダムなままだが、ゲームの記録を後から分析すれば、サイコロではなく円周率を使ったゲームかどうかを判別できる――と説明しています。
このようにして埋め込まれる“透かし”には、以下のような特徴があります。
文章に何かが追加されるわけではなく、隠し文字のようなものも入らない読み手には、透かしのある文章とない文章の区別がつかない（文体は自然で、文意も変わらない）余分なトークンを消費せず、料金は変わらない。生成速度への影響もほぼない個人・組織・チャットを特定できる情報は含まれない
この方法はGoogle DeepMindが2024年に「Nature」誌で発表した「SynthID-Text」をベースにしていますが、その論文では、「Gemini」の一部トラフィックを使った評価で、“透かし”の有無による支持・不支持の割合に統計的に有意な差は見られなかったとのこと。また、透かしのある回答とない回答を人間の評価者が並べて比較した対照実験でも、品質の差は確認されなかったとしています。
一方で、“透かし”がうまく機能しないケースや、いくつかの問題も残されています。
判定できるのは“「Claude」がテキストを書くのに関与した可能性の高さ”だけ。AIが書いたことの証明、人間が書いたことの証明にはならない。また、「Claude」以外のAIが書いたかどうかは判別できない短い文章は苦手。単語の選択肢が少ないぶん、手掛かりが減る事実を述べる文などでは“透かし”が薄くなる。正解がほぼ一つに限られる箇所では、言葉を選ぶ余地が少ない。契約や法律など、形式が決まっている文章でも効果が少ないコードも同様で、正確さが求められる場面には“透かし”が効かない（ただし、コード中のコメントには入りうる）人間が書いた文章を「Claude」に校正させた場合、ほとんどの単語は人間由来なので“透かし”を混ぜる余地がない
“透かし”を消せるかどうかについては、「軽い編集ではおそらく完全には消えないが、すべての単語を置き換えるような全面的な書き直しであれば消える」とのこと。もっとも、そこまでやったらもはや生成AIの文章ではなく、人間が手で書いた文章といえる気がしますが。
テキスト“透かし”の導入はEUのAI法（EU AI Act）へ対応するために実施され、8月2日以降、EU市場でサービスを提供するAIプロバイダーには、AI生成コンテンツへのマーキングが求められています。そのため、ほかの主要AIモデルにも、それぞれの方式の“透かし”が実装される見込みです。現時点では地域ごとに適用範囲を切り分ける確実な手段がないため、“透かし”は全世界へ一律に適用されるとのこと。
8月2日より前にリリースされたモデルについては、EUの法律で定められた移行期間の間に実装されるようです。今後数カ月かけて展開されるでしょう。