OpenAI为ChatGPT推出了一项名为“锁定模式”的新安全功能，旨在保护敏感数据免受提示注入攻击。该功能于上周六公布，目的是降低在与AI交互过程中机密信息意外泄露的风险。锁定模式通过限制模型在检测到潜在注入时处理或输出某些数据类型（如个人标识符或专有商业信息）来工作。然而，专家指出，即使启用了该模式，ChatGPT仍可能受到复杂提示注入技术的影响。OpenAI表示，其目标并非实现绝对安全，而是

OpenAI为ChatGPT推出了一项名为“锁定模式”的新安全功能，旨在保护敏感数据免受提示注入攻击。该功能于上周六公布，目的是降低在与AI交互过程中机密信息意外泄露的风险。锁定模式通过限制模型在检测到潜在注入时处理或输出某些数据类型（如个人标识符或专有商业信息）来工作。然而，专家指出，即使启用了该模式，ChatGPT仍可能受到复杂提示注入技术的影响。OpenAI表示，其目标并非实现绝对安全，而是显著降低敏感数据在过程中被共享的可能性。此举正值AI安全担忧日益加剧之际，提示注入攻击已成为大型语言模型的主要威胁。这些攻击通过精心设计输入，诱使AI绕过其安全防护，可能导致隐私信息泄露或执行意外操作。锁定模式是OpenAI加强安全措施的更广泛努力的一部分，此前已推出内容过滤和用户身份验证等更新。该功能最初面向企业和高级用户，计划未来更广泛推广。安全研究人员对这一举措表示欢迎，但强调应将其与其他最佳实践（如数据最小化和定期审计）结合使用。随着AI继续融入医疗和金融等敏感行业，像锁定模式这样的功能是建立信任的关键一步。OpenAI鼓励用户报告遇到的任何漏洞，这强化了其持续改进的承诺。