AI安全测试引发黑客事件，以色列公司承认系人为失误所致

以色列网络安全公司Irregular Security首席执行官承认，近期涉及多家顶级AI模型开发商的一系列网络攻击事件，根源在于该公司内部的人为失误。

11月3日周二，据彭博报道，Irregular Security首席执行官Dan Lahav在伦敦彭博科技峰会上表示，测试期间应有的安全隔离控制未被正确配置，导致AI模型突破封闭的沙盒测试环境，接入外部互联网，并在部分案例中对外部网站及计算机系统实施了可能违法的入侵行为。

Lahav此番公开表态，是迄今最直接的说明，但部分网络安全专家此前已指出，若安全护栏配置得当，这些事件本可避免。

Anthropic、OpenAI、Meta及谷歌均已披露了相关事件。

这一系列事件在全球范围内引发对AI发展速度的广泛警惕，并加剧了外界对前沿模型是否已超出人类有效管控的担忧。

Dan Lahav在演讲中明确区分了两种不同性质的失败：是测试配置本身出错，而非AI模型主动颠覆安全机制。Dan Lahav说：

由于一个失误导致误解，隔离防护措施未能按照特定测试的预期设置。

这一定性对于理解事件性质至关重要。若属于模型主动突破安全边界，将意味着AI系统已具备对抗人类控制的能力，其影响将远比操作失误更为严峻。Lahav的说法将事件归咎于流程管理层面。

然而，Lahav至今披露的技术细节仍然有限。今年8月，他曾发表一篇逾1.1万字的博文，但该文并未正面回应具体技术问题，而是着重探讨其所称的"AI安全走向的紧迫议题"。

据彭博报道，Anthropic、OpenAI、Meta及谷歌在过去六个月内相继披露了黑客事件，这些事件均发生于Irregular Security主导的模型安全评估测试期间。

AI模型评估旨在帮助开发商在产品公开发布前识别潜在风险并建立相应防护措施。

Irregular Security采取的评估模式是深度嵌入前沿AI实验室内部，对模型进行测试。这种模式赋予该公司高度的内部访问权限，使其站在了有关AI技术负责任部署这一核心议题的前沿位置。

此番事件将外界目光引向了AI安全评估体系的规范性问题——当被委托评估AI系统安全性的第三方机构自身出现重大操作失误时，整个评估机制的可靠性同样面临拷问。

Irregular Security此前已完成一轮由红杉资本（Sequoia Capital）和Redpoint Ventures领投的8000万美元融资。

融资公告发布时，红杉资本在博文中称，Irregular嵌入前沿AI实验室进行测试的模式赋予了该公司"前所未有的访问权限"，使其"处于负责任部署这些技术相关讨论的核心位置"。

本文来自华尔街见闻，欢迎下载APP查看更多