OpenAI unveils Lockdown Mode to protect sensitive data from prompt injection attacks

OpenAIは、ChatGPT向けの新たなセキュリティ機能「Lockdown Mode」を発表しました。これは、プロンプトインジェクション攻撃から機密データを保護するために設計されたものです。土曜日に発表されたこの機能は、AIとのやり取り中に機密情報が誤って漏洩するリスクを低減することを目的としています。Lockdown Modeは、潜在的なインジェクションが検出された際に、個人識別子や企業の専有情報などの特定データの処理や出力を制限します。しかし、専門家は、このモードを有効にしても、高度なプロンプトインジェクション手法に対してChatGPTは依然として脆弱である可能性があると指摘しています。OpenAIによると、その目標は絶対的なセキュリティを達成することではなく、機密データがプロセス中に共有される可能性を大幅に下げることです。この動きは、AIの安全性に対する懸念が高まる中で行われ、プロンプトインジェクション攻撃は大規模言語モデルにとって主要な脅威となっています。これらの攻撃は、AIの安全対策を回避させる入力を巧妙に作成し、プライベート情報の漏洩や意図しない動作の実行を引き起こす可能性があります。Lockdown Modeは、OpenAIがセキュリティ対策を強化する広範な取り組みの一環であり、コンテンツフィルタリングやユーザー認証などの以前のアップデートに続くものです。この機能は、最初はエンタープライズおよびプレミアムユーザー向けに提供され、今後より広く展開される予定です。セキュリティ研究者はこの取り組みを歓迎していますが、データの最小化や定期的な監査などの他のベストプラクティスと組み合わせる必要があると強調しています。AIが医療や金融などの機密性の高い分野に統合され続ける中、Lockdown Modeのような機能は信頼構築に向けた重要な一歩です。OpenAIは、ユーザーが遭遇した脆弱性を報告するよう奨励し、反復的な改善への取り組みを強化しています。