在临近周末的一项重磅举措中,美国政府以紧迫的国家安全担忧为由,强制Anthropic撤回了其最新的两款AI模型Fable 5和Mythos 5。此前,亚马逊研究人员据称发现了绕过Fable 5安全护栏的方法,从而引发了这一紧急监管行动。然而,尽管监管重拳出击,市场采用率和开发者参与度却表明,AI社区并没有对底层技术打退堂鼓。 争议的导火索是,亚马逊安全团队据称在Fable 5中发现了一个严重的越
在临近周末的一项重磅举措中,美国政府以紧迫的国家安全担忧为由,强制Anthropic撤回了其最新的两款AI模型Fable 5和Mythos 5。此前,亚马逊研究人员据称发现了绕过Fable 5安全护栏的方法,从而引发了这一紧急监管行动。然而,尽管监管重拳出击,市场采用率和开发者参与度却表明,AI社区并没有对底层技术打退堂鼓。
争议的导火索是,亚马逊安全团队据称在Fable 5中发现了一个严重的越狱漏洞,允许用户绕过该模型精心构建的安全协议。美国政府迅速采取行动,强制要求Fable 5及其兄弟模型Mythos 5退出商业使用。官方认为,这种护栏绕过行为对国家安全构成了不可接受的风险,可能让恶意分子利用高级AI从事有害活动。
然而,这项禁令引发了网络安全和AI研究社区的强烈反弹。数十位顶尖网络安全研究人员随后签署了一封公开信,谴责政府的决定是危险的。他们认为,压制模型的发布只会把AI开发逼入地下,扼杀独立的安全审计,最终反而会降低公众的安全性。Anthropic本身也对监管逻辑提出了异议,指出在Fable 5中发现的同类越狱漏洞在目前市面上的其他模型中也同样存在。该公司暗示,仅仅针对Anthropic的最新发布产品,说明该禁令只是治标不治本的创可贴,而非系统性的修复方案。
尽管有官方禁令,但数据却反映了业界截然不同的反应。开发者对Fable 5底层架构的兴趣依然极高,模仿其已知能力的开源替代方案的下载量出现了激增。企业对Anthropic未被禁用的旧模型的API调用量也大幅飙升,这表明企业只是在绕开监管路障继续前行。市场分析师指出,对日益强大的AI模型的需求,已经超出了政府有效限制的能力。华盛顿的恐慌与硅谷的持续高歌猛进之间的脱节,凸显了在AI安全与进步的治理方面日益加深的鸿沟。随着围绕安全护栏和国家安全的争论愈演愈烈,数据清楚地表明,无论官方设置何种障碍,AI行业仍在全速前进。