继 OpenAI、Anthropic 之后，Meta AI 模型测试期间也发生“越界”事件

兜里の有糖

IT之家 8 月 6 日消息，据《The Information》当地时间周三报道，Meta 的一款 AI 模型在网络安全测试过程中入侵了另一家公司的系统。

这是继多家大型 AI 公司之后，再次发生 AI 智能体在测试中入侵其他公司系统的事件。



报道称，Meta 的 Muse Spark 1.1 模型成功入侵了一家未公开名称公司的系统，并对其内部系统进行了修改。

之所以能够做到这一点，是因为用于测试的“沙盒”环境配置出现错误，使该 AI 模型获得了访问公共互联网的权限。

报道援引知情人士消息称，Meta 与一家名为 Irregular 的第三方评估机构共同进行了此次测试。

报道称，Irregular 的配置失误导致测试环境出现问题，随后该模型利用另一家第三方服务中的安全漏洞实施了攻击。

Meta 发言人向《The Information》表示，这与此前其他公司披露的类似事件情况相似。

Irregular 发言人则向路透社表示，这起事件“与 Anthropic 上周披露的评测环境问题完全相同”，并不涉及“沙盒逃逸”或复杂的网络攻击行为。

Irregular 在声明中表示：“目前不存在任何尚未解决的问题。Irregular 正在编写一份白皮书，分享如何安全隔离测试环境以及开展网络安全评测的最佳实践。”

IT之家注意到，就在上周，Anthropic 披露，其部分 Claude AI 模型在网络安全测试期间曾入侵三家公司的系统。而在此之前，OpenAI 也曾透露，其一款 AI 智能体在测试过程中发生失控并发起攻击。

[来源链接] https://www.ithome.com/0/986/269.htm