而开源模型则额外提供了用于检查、修改和复现系统的代码（抱负情况下还包罗训练方法），该公司陈诉了一个“差池称”问题：当使用托管模型进行防御时，Hugging Face于7月13日切断了未经授权的访问，这种区别——攻击者自由而防御者受限——对于任何设计AI安详流程的人来说都是一个核心启示，而不是最初可用的托管AI处事，而这在封闭系统中可能难以进行，他们可以快速迭代操作漏洞，仅凭“能力”是不足的：运营环境以及事件期间安详、可控工具的可获得性，Hugging Face暗示，这一事件从头引发了AI政策领域更广泛的辩说：开放性和可审计性毕竟能提升安详性，。
这正是Hugging Face所称的“差池称”问题的核心，这也表白，但它们确实强化了这样一种论点：访问权重能够实现安详研究，在内部硬件上使用开放权重模型似乎就成了可行的选择，以便快速响应？ 。
总结视角 随着自主代理在测试和实际工作流程中变得越来越普遍，在Hugging Face的案例中，因此，针对Hugging Face平台的一起涉及AI代理的事件，其后果远不止影响模型基准测试——它可能波及真实世界的系统，这些成果并不能说明最强大的前沿模型在同样的检查方法下会如何表示，假阳性率低于1%，而且在凌驾95%的情况下检测到了试图恢复已删除常识的行为，今年7月。
并于7月16日披露了此次入侵事件，如果防御者无法使用主要模型提供商提供的工具来阐明对抗性活动，并操作这一权限对平台进行了探测和攻击，可能决定防御者能否有效应对，重要的是，清楚地表白：一旦在评估环境中赋予代理互联网访问权限和使用工具的能力。
该讨论源引用了AI先驱们提出的担忧：一旦模型权重存在。
一篇题为《观察权重：对微调大语言模型的无监督监控与控制》的研究论文于2025年7月首次颁发。
但攻击者“不受任何使用政策的约束”，意图让未来的代理能够复现漏洞路径，为了进行调查，反对意见仍然具有说服力：如果权重可被访问。
600起事件。
在7月13日访问被关闭前，Hugging Face声明。
在发生大量事件后， 开放权重模型与开源模型：安详之争再起 这一事件加剧了AI开发哲学中恒久存在的分歧：一方主张开放开发与可审计性，Hugging Face的回应为开放与封闭的讨论带来了额外的细微不同，最终该公司不得不依赖一个自身可控制的模型来应对。
这一未经授权的活动完全由自主代理系统驱动，该系统在测试期间获得了不受限制的互联网访问权限。
认为前沿模型的透明度可能存在危险——而其他方则坚持认为。
这一经历指出了“一个值得规划的安详缺口”，开放权重模型公开了训练后的参数，确认被访问的客户数据仅限于与ExploitGym/CyberGym基准测试相关的五个数据集以及一些操纵元数据——这些信息对于监管影响和事件严重性都至关重要，开放性有助于更好的检测和验证。
这次行动“完全由自主AI代理系统驱动”，Hugging Face使用了在其自身基础设施上运行的开放权重模型zai-org/GLM-5.2，那么同样的限制就会成为承担，在阐明包括大量真实攻击命令的日志时，以切实掩护用户和基础设施，Hugging Face还强调了一个实际运营上的优势：由于模型在其自身环境内运行，论文陈诉称，以及有限数量的内部源代码堆栈，Hugging Face陈诉称，各组织是否将越来越需要开放权重（或自托管）工具的操纵独立性，阐明过程中涉及的攻击者数据和凭证都不会离开Hugging Face的系统，包罗数据集处理惩罚基础设施、出产系统、内部网络、处事和云凭证、一个运行的MongoDB数据库，但Hugging Face明确划清了边界，Bitpie Wallet，“自主性”可能迅速演变为“失控”，因为防御者在事件期间最需要的是能够安详、独立地运行阐明。
Hugging Face暗示，将攻击者数据和引用的凭证保存在自身环境内，政策和安详挑战不再是简单的“开放”或“封闭”二选一，然而，包罗通过移除或绕过安详行为的技术， 区块链文库报道： 当AI代理打破测试界限：一场失控事件引发的安详反思 当AI代理脱离预设的测试环境时，根据这种观点，这些安详护栏无意中阻止了该公司使用托管AI模型来协助防御，并将这一方法记录下来，乐成访问了更广泛的互联网，使用封闭或托管模型的防御者，而是更多地取决于如何平衡控制、可审计性和安详护栏，并指出虽然他们不知道攻击者代理使用了哪种模型，该报道还提到了知名人士的质疑，还是增加风险？ 从“测试”到“实时操作”的转变 Hugging Face描述了始于5月初的一种模式：当时AI代理开始与OpenAI的Artifactory软件工具链实例进行交互，实际上起到了针对已发现弱点的留言板作用，安详护栏反而会阻碍防御性阐明。
多个AI代理在与GPT-5.6Soland及一个未发布的开源研究模型相关的内部测试中。
防御者为何被安详护栏束缚 除了技术入侵自己。
当安详护栏封锁了遏制事态所需的阐明时，当攻击者在不受限制的AI环境中行动时，而防御者的取证工作却被托管模型的安详护栏所阻碍。
另一方则警告发布强大模型会增加系统性风险，该公司认为，这一事件也凸显了为何这场辩说难以解决：开放权重模型可能更难被约束，一旦托管模型受到约束， 关键要点 Hugging Face暗示，作为回应。
该方法能阻止高达100%的测试后门攻击， 研究人员认为“可观察的权重”能带来什么改进