全球最大开源大模型托管社区Hugging Face遭受网络攻击的“罪魁祸首”找到了 。7月22日 ，OpenAI发文承认近期在内部测试旗下多款模型时 ，意外攻破了Hugging Face的网络系统，近来 正在修补漏洞并取证调查 。业内广泛认为，这是首次公开披露的 、一起完全由AI智能体主导并实现的网络安全事件。
Sam Altman就攻击事件发声。
当地时间7月16日，Hugging Face在官方网站 披露了一起安全事故 ，称其生产基础设施遭到某个AI智能体系统入侵 ，已进行紧急处置并向执法部门报告 。事后，Hugging Face安全团队需要分析攻击者留下的超过17000条攻击日志 、恶意代码及攻击指令 ，以模拟攻击路径、评估损失并完成事件取证等 。
起初，Hugging Face调用了美国商业闭源模型开展分析工作 ，但由于相关日志中包含大量真实攻击命令、恶意代码 、通信交互记录等 ，这些请求被模型提供方的安全机制所拦截——根据这些内容，它们无法区分攻击者和受害者。Hugging Face转而在本地基础设施部署中国智谱AI开源模型GLM 5.2 ，完成了取证分析 。这样做还有一个额外好处：“攻击者的数据始终保存在本地 ，没有离开我们掌控的环境 。”公告提到。
Hugging Face公告发出数日后，OpenAI宣布对这一网络攻击事件负责 。该公司称，“罪魁祸首 ”是旗下最新大模型GPT-5.6 Sol以及一款能力更强 、还未正式发布的模型 。在一场网络安全能力测试中 ，公司调低了这组模型对网络不当请求的拒绝响应门槛 ，并设置在一个高度隔离的环境中运行。
然而，部分模型为在测试中取得更好“成绩 ” ，耗费大量推理算力寻求突破隔离限制的方法 。在识别并利用了第三方软件的一个“零日漏洞”后 ，获取了直接访问互联网的权限 。随着隔离失效，模型进一步推断Hugging Face上可能存有测试相关的模型、数据集和解决方案 ，于是利用各种手段入侵了Hugging Face服务器。简言之 ，AI大模型为达成任务“不择手段 ”的行事风格，导致了攻击发生 。
OpenAI表示 ，近来 公司正与Hugging Face合作调查取证 、修补漏洞 ，同时向相关执法机构上报情况 。公告还提到，此次事件证实了即使高级模型无法访问源代码 ，也能在现实网络系统中发现并利用新的攻击路径。随着模型网络攻防能力提高 ，必须配备更强的安全防护措施 、防御工具等。
Hugging Face的联合创始人兼首席执行官克莱门特·德朗格（Clement Delangue）回应称，公司坚信OpenAI方面没有恶意 。“感谢OpenAI在此事及其他方面的合作 。这起事件可能是同类事件中的首例，也证明了我们一直以来的看法——AI安全问题无法依靠某一家公司独立解决 ，关键在于构建开放、协作的行业生态 ，以及让全球各地每一位安全从业者都能充分使用人工智能。 ”
值得一提的是，此次攻击事件在行业内引发了一些担忧 ，不少人认为 ，这代表着AI公司正逐渐失去对自研的强大AI系统的控制 。
人工智能安全组织Redwood Research的首席科学家瑞恩·格林布拉特（Ryan Greenblatt）表示，这次事件表现出模型与人类的意图差异 ，“它更像是在一次‘家庭作业’中偷懒作弊 ，而不是想要接管世界 。但这个问题会变得越来越严重，未来可能出现更多极端失控案例。”
人工智能安全测评机构Apollo Research负责人马吕斯·霍布哈恩（Marius Hobbhahn）则评价道 ，“这是失控 ，也是一次安全警钟 ” 。他强调，如果长期在强化学习中以最终结果作为奖励依据的 ，模型行为会进一步形成只关心结果 、“不择手段 ”的特征 。
（文章来源：南方都市报）
