OpenAI发布关于Hugging Face AI智能体黑客事件的详尽报告

　　OpenAI周三发布了一份技术报告，详细说明了其人工智能模型上个月如何成功入侵Hugging Face，这一事件曾震惊了科技行业的研究人员和高管。

　　这份37页的报告详述了OpenAI模型在入侵前及入侵期间的一系列评估中所采取的行动，OpenAI将此次事件定性为“前所未有的网络安全事件”。该公司还解释了为防止类似事件再次发生所采取的步骤，主要包括改进其安全与隔离、监控、模型行为及事件响应能力。

　　“此次事件表明，自主智能体能够协同工作、规避生产环境安全控制，并成功攻击加固后的生产环境。这凸显了各组织需要更新其安全策略、控制措施和响应能力，以应对不断变化的威胁形势，”OpenAI在报告中表示。

　　7月21日，OpenAI披露其多款模型（包括GPT-5.6 Sol和一个内部研究模型）的组合不当入侵了Hugging Face——一家运营开源开发者平台的AI公司。

　　这些以智能体形式运行的模型，逃逸了一个互联网访问权限极为有限的隔离测试环境。这些智能体通过串联一系列漏洞进入开放网络，最终获得了对Hugging Face的访问权限。OpenAI周三表示，这些智能体试图通过在线上寻找答案来“作弊”通过评估，这种行为被称为“奖励黑客”。

　　根据报告，OpenAI认定其仅限内部使用的研究模型在事件中“扮演了最广泛的已确认角色”。OpenAI已于7月25日停止了该模型及其衍生模型的所有训练和推理活动。

　　“OpenAI对模型的重新启用按具体工作负载处理，并受限于受限环境、网络、提示、监控和审查等防护措施，”OpenAI表示。

　　OpenAI上个月发布了GPT-5.6 Sol，这是该公司商业化提供的功能最强大的模型。但OpenAI表示，参与Hugging Face入侵的版本与外部用户可访问的版本不同，因为该版本在运行时移除了标准安全防护和分类器。

　　Hugging Face事件在科技行业引起震动，Zscaler首席信息安全官Sam Curry警告称“潘多拉魔盒已经打开”。此次入侵也是本月早些时候Black Hat网络安全大会的主要焦点，尤其是在包括Anthropic和Meta在内的其他公司披露了类似事件之后。

　　Hugging Face入侵事件也引起了华盛顿立法者的警觉。加利福尼亚州民主党众议员Ted Lieu和德克萨斯州共和党众议员Nathaniel Moran在宣布《AI紧急关停法案》时提及了此次攻击，该法案将要求AI公司保持关闭、限制或暂停其模型的能力。

元股证券:ygzq.hk

　　Hugging Face首席执行官Clément Delangue本月早些时候表示，AI网络安全应被“非常严肃地”对待。他补充说，这也为那些能够利用该技术抵御攻击者的企业“创造了机遇”。

炒股杠杆平台

　　“如果我们做得好，我们实际上可能最终进入一个AI让世界更安全、解决许多网络安全问题而不仅仅是创造新问题的世界，”Delangue表示。

海量资讯、精准解读，尽在新浪财经APP

责任编辑：丁文武 合规风险