人工知能（AI）はさまざまなセキュリティ脅威にさらされる場合がある。中でも最大の脅威の1つが、プロンプトインジェクションだ。攻撃者はプロンプトに悪意あるコマンドを挿入することで、チャットに侵入し、外部のファイルやサービスにアクセスして、個人のデータを盗み出す可能性がある。だが、ChatGPTのオプション設定である「ロックダウンモード」では、ChatGPTが実行できる操作やアクセスできる範囲を制限して、アカウントを保護しようとする。
このオプションは、「ChatGPT Enterprise」「ChatGPT Edu」「ChatGPT ヘルスケア」「ChatGPT for Teachers」の契約者向けに、2月から提供されていたが、このたび無料版に加え、「Go」「Plus」「Pro」「ビジネス」を含む他のすべてのプランにも順次提供されることになった。つまり、ChatGPTのすべてのユーザーが利用できるようになるわけだが、このオプション自体は、機密性の高い情報を扱うため、より一層の保護を必要とする個人や組織向けに設計されている。
ロックダウンモードでは、プロンプトインジェクションによるデータ窃取に対抗するため、インターネットや外部ファイルサービスなどへの送信ネットワークリクエストが制限される。その狙いは、最新の機密情報が攻撃者の手に渡るのを阻止することだ。
もっとも、このモードはプロンプトインジェクション攻撃自体を防ぐわけではない。攻撃者が悪意あるコマンドをプロンプトに仕込み、キャッシュされたウェブコンテンツやアップロードされたファイルを悪用することは、このモードでも可能だ。さらに、リアルタイムのウェブ検索や情報の取得に関して、いくつかの明確なトレードオフが存在する。
ロックダウンモードを有効にすると、ユーザーは以下の機能を実行できなくなる。
リアルタイムのウェブ閲覧：ChatGPTはリアルタイムでウェブにアクセスできなくなり、アクセス対象がキャッシュ済みコンテンツに制限される。そのため、検索結果が古い情報になるか、表示されなくなる場合がある。
ウェブ上の画像の表示：ChatGPTは、通常の応答で画像を表示することも、リアルタイムでウェブから画像を取得することもできなくなる。ただし、ユーザーが自分で画像をアップロードしたり、ChatGPTに画像を生成させたりすることは可能だ。
「deep research」の利用：deep researchは利用できなくなる。
「エージェントモード」の利用：エージェントモードも利用できなくなる。
「キャンバス」のネットワーク機能：キャンバスツールで生成したコードによるネットワークアクセスができなくなる。
ファイルのダウンロード：ChatGPTは、ファイルをダウンロードして分析することができなくなる。ただし、ユーザーがアップロードしたファイルはロックダウンモードでも処理できる。
提供：Lance Whitney/ZDNET
この記事は海外Ziff Davis発の記事を4Xが日本向けに編集したものです。