OpenAI与Anthropic模型再曝安全评估事件，曾尝试植入恶意代码_财经资讯

OpenAI与Anthropic模型再曝安全评估事件，曾尝试植入恶意代码

创始人

2026-08-05 09:08:41

0次

8月5日，OpenAI和Anthropic的人工智能模型近日卷入此前未公开的网络安全事件，成为近期多起AI模型潜在安全风险事件中的最新案例。测试前沿AI模型潜在风险的英国人工智能安全研究所（AISI）当地时间8月4日表示，在一项涉及互联网接入的网络安全评估中，Anthropic的Mythos 5和OpenAI的GPT-5.6-Sol模型“持续针对真实个人和组织实施可能造成危害的活动”。AISI称，该团队在注意到“异常数据传输”后，于7月28日发现了这一事件。 AISI表示，调查发现，在评估过程中，其中一个AI模型试图向GitHub上的一个开源软件项目植入有害代码，甚至创建虚假身份来推动代码获得批准。AISI写道：“一名人工维护者发现并拒绝批准恶意代码。” Anthropic随后发表声明称，公司“感谢AISI在如何评估能力日益增强的AI智能体这一重要议题上发挥的领导作用”。Anthropic表示，正与AISI密切合作，在开展自身调查的同时收集更多事故细节。通过审查Claude的推理记录并开展内部分析，全面了解Claude对自身所处环境的理解，将有助于查明其行为原因。 OpenAI也对英国AISI在整个过程中的合作表示感谢，称“期待双方继续开展合作”。此外，OpenAI披露，另一宗网络安全事件发生在与外部网络安全公司Irregular联合开展的AI模型评估中。Irregular也是Anthropic的合作伙伴。OpenAI表示，在这起事件中，其模型在接受另一项网络安全评估时，利用测试环境中的一项“配置错误”接入互联网，并利用了网站漏洞。（广角观察）

上一篇：诺和诺德二季度调整后营收增长7%，上调全年业绩预期

下一篇：摩根大通据悉拟38亿欧元收购法国供热与冷却网络运营商Idex

OpenAI与Anthropic模型再曝安全评估事件，曾尝试植入恶意代码

相关内容

热门资讯