Googleが、生成AIを悪用した大規模SMS詐欺網「Outsider Enterprise」の解体に向けて、米ニューヨーク南部地区連邦地裁に民事訴訟を起こした。焦点は、Geminiが詐欺そのものを自律的に実行したという話ではない。訴状が描くのは、誰でも使えるAIコード生成と、フィッシング用の商用キットが接続され、詐欺サイトの量産がほぼ業務フロー化した構図である。
Googleは2026年6月12日の発表で、このネットワークが中国を拠点とし、Telegramを通じてフィッシングキットを配布していたと説明した。詐欺はGoogleや他の信頼されたブランドを装うテキストメッセージから始まり、被害者を偽サイトへ誘導してパスワードやクレジットカード情報を盗む。Googleによれば、被害者は数十万人規模に上り、損失は数百万ドル規模に達する。
同社は今回の訴訟を、FBIの法執行活動、AT&T、T-Mobile、Verizonとの通信遮断、AndroidとGoogle Messagesの防御と組み合わせる。AIを使った詐欺が増える中で、個別の偽メッセージを消すだけでは追いつかない。Googleの狙いは、詐欺サイト、ドメイン、クラウド、メッセージ配信、収益化をつなぐ基盤そのものを法的に止めることにある。
01.2週間で250万通、詐欺サイトは9000件に達した02.週88ドルの詐欺キットが、AIでテンプレートの外へ広がる03.Googleのロゴ、Drive、Cloudまで詐欺基盤に取り込まれた04.RICOと商標法で、詐欺の事業基盤に切り込む05.同じ週に、OpenAIも中国関連のAI悪用を公表した2週間で250万通、詐欺サイトは9000件に達した
Googleの発表によると、Outsider Enterpriseは2026年5月の2週間だけで、Androidユーザーに250万通のメッセージを送った。その期間にAndroidユーザーが報告したスパムテキストは5万5000件で、1分に2件を上回るペースだった。Googleは、このグループに関連する偽サイトを9000件、詐欺URLを100万件超確認したとしている。
訴状はさらに長い期間の規模を示す。Googleは2025年11月14日から2026年4月14日までの5カ月間に、Outsider Enterpriseに関連するウェブページを159万件超検出した。ピーク時には、1日で6万2993件の新しいOutsiderページを検出したという。過去版のソフトウェアについても、95カ国の金融機関が発行した少なくとも3万6000枚の決済カードの窃取に関係したとGoogleは主張している。
被害者が見るメッセージは、荷物の配送、未払いの通行料金、携帯電話会社のポイント失効、証券口座の問題など、日常的な不安や期限に寄せて作られる。訴状には、米国内のGoogle Messagesユーザーが報告した例として、報酬ポイントの失効、車両登録の停止、USPSの配送失敗を装う文面が挙げられている。こうした文面は、受信者に「今すぐクリックしなければ損をする」と思わせる設計になっている。
TechCrunchはFBIのコメントとして、FBIがGoogleとLumenのBlack Lotus Labsと連携し、犯罪者が使った複数のドメインやShopifyのストアフロント、アカウントを差し押さえたと報じた。同じコメントでは、2023年7月以降にOutsiderのフィッシング基盤が推定387万件のクレジットカード窃取と19億ドルの損失を可能にしたとも説明されている。
週88ドルの詐欺キットが、AIでテンプレートの外へ広がる
Outsiderは単発の詐欺キャンペーンではなく、フィッシング・アズ・ア・サービスとして動いていた。Googleによれば、Outsiderの利用料は週88ドルからで、利用者は290件を超えるテンプレートを選び、地域、国、模倣したいドメインで絞り込み、短時間で偽サイトを展開できる。米国向けのテンプレートは少なくとも131件あり、通信会社、通行料金徴収機関、証券会社、配送会社、ECサイト、州・地方政府のサイトを装っていた。
このテンプレート群だけでも十分に危険だが、AIはその範囲をさらに広げる。訴状によると、OutsiderにはカスタムHTMLコードを入力する機能があり、利用者はGeminiなどのAIツールに「ギフト引き換えページ」などのコード生成を頼み、その出力をOutsiderのカスタムテンプレート編集画面へ貼り付けられる。Outsider側はそのシェルサイトに、入力情報を抜き取る機能や偽サイトとしての見た目を加える。
この仕組みが示すリスクは、AIモデル単体の安全対策だけでは詐欺の全体像を捕まえにくいことだ。プログラミング支援としては一見無害なHTML生成でも、外部の犯罪キットに投入されると、キーストロークの収集や決済情報の窃取に接続される。GoogleはGeminiに危険なコンテンツを防ぐフィルターや不正利用検知を備えていると説明しているが、訴状は、詐欺側がAI出力を別の犯罪基盤に流し込むことで制限を迂回しようとした構図を示している。
Outsiderは詐欺サイトの作成だけでなく、犯罪者同士の分業も支えた。訴状では、ソフトウェア開発者、ターゲットリストの供給者、大量SMS送信の担当者、盗んだ認証情報や決済情報を収益化する担当者、資金洗浄に関わる担当者が、Telegram上で連携していたとされる。Googleは、Outsiderを「技術力のない犯罪者でも数クリックで詐欺を始められる」道具として位置づけている。
Googleのロゴ、Drive、Cloudまで詐欺基盤に取り込まれた
Outsider Enterpriseは、Googleのブランドやサービスも詐欺の信頼性作りに使ったとされる。訴状によると、Outsiderが提供するテンプレートのうち少なくとも14件は、YouTube、Google Pay、Google Playなどのロゴや表示を含んでいた。偽サイトにGoogleのロゴがあることで、被害者はページが安全だと誤認しやすくなる。
Google DriveとGoogle Cloudも、基盤の一部として使われた。訴状では、Outsiderソフトウェアに「バックアップ機能」があり、盗んだ個人情報や金融情報をGoogle Driveへ直接エクスポートできたとされる。GoogleはOutsiderによるDriveアクセスをすでにブロックしたとしている。また、Outsiderの利用者はGoogle Cloudサーバーを調達し、生成したフィッシングサイトのホスティングに使っていたとGoogleは主張する。
これに対し、GoogleはSafe BrowsingのカタログにOutsider関連ページを追加し、Chromeユーザーがアクセスしようとした際に警告を表示した。訴状によれば、この警告の導入後、Chromeユーザーから該当ページへのトラフィックは大きく減った。Google Messagesを含むメッセージ防御も、月100億件を超える悪質メッセージを遮断しているという。
ただし、防御の効果は利用環境に左右される。Safe Browsingの警告はChromeでは見えるが、別のブラウザでは同じ表示が出ない場合がある。通信事業者による遮断、ブラウザの警告、クラウドアカウントの停止、ドメイン差し押さえを組み合わせなければ、攻撃者は別のURLやホスティング先へ移るだけで活動を続けられる。
RICOと商標法で、詐欺の事業基盤に切り込む
Googleは今回、RICO法とLanham Actに基づいて差し止めと損害賠償を求めている。RICO法は組織的な犯罪活動を対象にする枠組みで、訴状はOutsider Enterpriseを、ソフトウェア、Telegramチャンネル、標的リスト、メッセージ送信、盗難情報の換金を束ねる事業体として描く。Lanham Act側では、Googleの商標やロゴを偽サイトに使い、利用者を誤認させたことが問題にされている。
この法的構成は、AI時代の詐欺対策にとって意味が大きい。AIモデルへの不正プロンプトを個別に止めるだけでは、犯罪キット、ホスティング、メッセージ配信、決済情報の売買まで届かない。民事訴訟で一時的差し止めや恒久的差し止めを得られれば、企業と法執行機関がドメイン、アカウント、クラウド基盤をより速く止めるための法的足場になる。
Googleは同時に、AIを使った詐欺に対応するための7本の超党派法案への支持も打ち出した。発表文には、Stop SCAMS Actを推進する議員や、AT&T、T-Mobile、Verizonの幹部コメントも並ぶ。企業の検知、通信事業者の遮断、FBIの捜査、連邦法の整備を一体化しなければ、国境をまたいだSMS詐欺を継続的に抑えるのは難しいという立場だ。
同じ週に、OpenAIも中国関連のAI悪用を公表した
Googleの訴訟と同じ週に、OpenAIも中国から発信された可能性が高いChatGPTアカウント群を停止したと発表した。OpenAIの2026年6月脅威レポートによると、一つは「Data Center Bandwagon」と名付けられたクラスターで、AIデータセンターが家庭の電気料金を押し上げているという英語・中国語の投稿や画像を作っていた。もう一つの「Tech and Tariffs」は、米国の関税や技術政策を批判するコメントや政治漫画を生成し、出力に習近平を含めずトランプ大統領だけを描くよう指示していた。
OpenAIは、これらの活動をBreakout ScaleのCategory One、つまり一つのプラットフォーム上にとどまり、意味のある拡散は確認されていない活動と評価した。GoogleのOutsider案件とは性質も規模も異なるが、共通しているのは、AIサービスが犯罪や影響工作の完成品だけでなく、作業の高速化、量産、文面の調整、運用計画に使われていることだ。
AI悪用への対策は、モデルの安全フィルターだけで完結しない。詐欺キットを売る市場、メッセージを配る通信経路、偽サイトを置くクラウド、盗んだ情報を換金する出口、影響工作を広げるSNSアカウントまで、攻撃者の作業線は分散している。Googleの訴訟は、その分散した線を法的に束ねて止めようとする試みであり、生成AI時代のセキュリティ対策がアカウント停止から基盤遮断へ広がっていることを示している。
広告のない XenoSpectrum を。
月額¥580。広告が消え、ブックマーク無制限。独立した記事制作を支えられます。いつでも解約可。
サポーターになる（¥580/月）
まずは無料で。AI・半導体・先端技術の最前線を週1通でメール受信。
広告のない XenoSpectrum を。
月額¥580、ログイン済みなのですぐ始められます。
サポーターになる
まずは無料で。最新ニュースをメールで受け取る。
いつもありがとうございます。
あなたのご支援で、独立した記事を届け続けられています。広告は非表示です。
もう一度応援する