この機能は、オンラインコンテンツやデータファイルに悪意のある命令を挿入してチャットボットの動作に影響を与え、機密情報の漏洩リスクを高める、即時インジェクション攻撃に対する保護を強化するように設計されています。
OpenAIは、ChatGPTユーザー向けにセキュリティ機能「ロックダウンモード」をリリースした。
「設定」＞「セキュリティ」でロックダウンモードを有効にすると、ChatGPTはインターネットや外部サービスに接続する特定の機能を制限または無効にします。
具体的には、直接ウェブブラウジング機能ではキャッシュされたコンテンツにしかアクセスできず、ChatGPTはインターネットから画像を表示または取得せず、ディープリサーチ、エージェントモード、データ分析のための自動ファイルダウンロードなどの機能はロックされており、Canvasのソースコードはネットワークに接続できないようになっています。
ユーザーはこれまで通り、手動でファイルをアップロードしたり、AIを活用した画像作成機能を利用したりすることができます。
しかし、OpenAIは、ロックダウンモードはプロンプトインジェクション攻撃を完全に防ぐことはできないと指摘している。悪意のある命令は、保存されたコンテンツやユーザーがアップロードしたファイルの中に依然として存在する可能性があるためだ。とはいえ、この機能は機密データが意図せず共有されるリスクを大幅に軽減する。
OpenAIによると、ロックダウンモードは万人向けではなく、機密データを頻繁に取り扱い、情報漏洩のリスクに対するより厳格な保護層を必要とする個人や組織を対象としている。
さらに、OpenAIはアクティブセッション機能も実装しており、ユーザーはログイン履歴の監視、デバイス情報の確認、推定位置情報、接続されているアプリケーションの確認、および信頼できないデバイスからのリモートログアウトを行うことができる。
ロックダウンモードの拡張は、OpenAIが、高度なオンラインAI機能の一部を犠牲にすることになったとしても、ますます複雑化するサイバーセキュリティの脅威からユーザーを保護するための対策を強化していることを示している。
出典: https://baovanhoa.vn/nhip-song-so/openai-ra-mat-che-do-khoa-bao-ve-du-lieu-cho-chatgpt-235417.html