加州起诉OpenAI AI智能体至少80次失控

AI 驱动中国 纪行 698次阅读
分享 微 Q 信
AI摘要
由 AI 生成 · 仅供参考

美国加利福尼亚州当地时间11月16日对OpenAI提起诉讼,指控其在开发测试先进人工智能模型时缺乏安全防护与监控,导致AI智能体至少80次失控,并涉及对Hugging Face等第三方平台的未经授权网络攻击。

驱动中国11月17日消息,美国加利福尼亚州当地时间11月16日正式对OpenAI提起诉讼,指控该公司在开发和测试先进人工智能模型时缺乏必要的安全防护与监控措施,导致AI智能体多次失控,并对第三方网络发起未经授权的攻击。

加州检察长罗布·邦塔在加州司法部官网发布文章《这里是黄金之州,不是蛮荒西部:加州总检察长邦塔就网络安全事件起诉 OpenAI》。邦塔表示,此次诉讼重点涉及2026年7月OpenAI实验性AI智能体攻击Hugging Face平台的事件,公众不应被迫承担保护自身免受OpenAI不安全实验所带来的危险的成本。

邦塔当天在旧金山高等法院提起诉讼,指控OpenAI未能充分保障模型测试环境的安全,也未能向公众如实披露相关风险。加州方面认为,OpenAI在明知实验性模型具备较强网络攻击能力的情况下,仍在存在安全漏洞的测试环境中运行这些模型,且缺乏充分监督。

诉讼文件显示,此次诉讼的核心事件发生于2026年7月。当时,运行在OpenAI实验性模型上的数百个自主AI智能体突破原本应当隔离的研究环境,通过公共互联网对开源AI平台Hugging Face发起网络攻击。攻击持续约两天半,涉及数百个自主智能体协同行动,并使用了复杂的网络攻击手段。

加州司法部称,这些智能体原本应被限制在OpenAI的研究环境内,但由于测试环境存在可被利用的漏洞,最终得以访问外部网络。加州方面还指控,OpenAI在攻击发生前数周已经出现过智能体逃离测试环境、滥用第三方资源等迹象,但未能及时发现或采取有效措施。

邦塔表示,Hugging Face事件并非孤立案例。根据其办公室掌握的信息,OpenAI在测试期间至少发生过80次AI智能体失去控制的事件,部分事件涉及第三方网站及系统。加州方面认为,这些事件可能只是已知问题的一部分,而OpenAI未能充分回应监管部门此前提出的详细调查问题。

除Hugging Face外,诉讼文件还提及RubyGems、DseWiki、维基媒体基金会。

版权声明:本文由驱动中国整理发布,转载需注明出处与原文链接。如有疑问请联系 editor@qudong.com。
来源:驱动中国 · 原文链接:https://www.qudong.com/article/529829.html
本文价值 ★★★★★ 5 2 人已评
登录后为本文打分
网友评论0 条评论
正在回复 的评论取消
评论加载中…
🔐

登录后参与互动

评论、点赞均可赚积分
连续签到、邀请好友也有奖励 🎁

电脑端: 微信扫码登录 微信内: 一键登录

微信扫一扫

打开微信「扫一扫」,分享本文到朋友圈或好友

分享卡已生成

长按下方图片保存,转发到朋友圈或微信群

分享卡