ChatGPTに「ロックダウンモード」登場——プロンプトインジェクション対策の新セキュリティ機能

OpenAIは、ChatGPTに新セキュリティ機能「ロックダウンモード」の提供を開始した。プロンプトインジェクション攻撃によるデータ流出リスクを抑えることを目的としたオプション機能で、有効にするとWebブラウジングや外部サービスへの接続機能が制限される。機密データを扱う個人や組織が主な対象として想定されている。

プロンプトインジェクションとは、悪意ある指示を入力テキストに埋め込むことでAIの動作を乗っ取り、意図しない情報を外部に送信させたり、システムプロンプトの内容を引き出したりする攻撃手法だ。ChatGPTがWebブラウジングや外部API連携などの「アクション系」機能を持つようになってから、この種のリスクは無視できない問題として議論されてきた。

ロックダウンモードはその対策として、外部への接続経路をまとめてシャットアウトするアプローチを採っている。機能を使う利便性よりも、データを守ることを優先したい場面に切り替える「用途別モード」という整理方がわかりやすいだろう。医療・法律・経営情報など、外に出てはいけないテキストをChatGPTに貼り付けて作業する機会が増えている昨今、こうした選択肢が用意されたこと自体は歓迎できる。

一方で、制限の具体的な範囲については注意が必要だ。Webブラウジングと外部サービス接続が制限されると原文には書かれているが、「どこまでが外部接続に含まれるか」「ファイルのアップロード・ダウンロードはどう扱われるか」といった細部は原文から読み取れない。機密データを扱う組織が導入を検討する場合は、OpenAIの公式ドキュメントで制限対象の一覧を確認してから判断するのが安全だ。

【編集部補足】企業利用の観点では、ロックダウンモードの有無とは別に、「そもそも機密情報をコンシューマー向けサービスに入力してよいか」という社内規程の整備が先に問われることが多い。一般論として、業務データのAIサービス入力に関するポリシーを社内で定めていない組織は、このモードの登場を機に規程の見直しを検討する価値があると言われる。

「買うべきか・待つべきか」という軸で言えば、これは新デバイスではなくChatGPTの既存機能への追加オプションなので、現在のユーザーはまずオン/オフを試してみて、自分の用途に合う使い方を探るのが現実的な第一歩になる。