Anthropic推AI安全法案 涉50人伤亡模型阻断
AI摘要
由 AI 生成 · 仅供参考
据TechCrunch报道，Anthropic提出一项AI安全法案，声称若模型可能导致50人及以上死亡或可阻断发布；但报道指出该政策虽看似防范AI失控，实际限制联邦机构在未经法官许可时阻止模型发布。
驱动中国10月22日消息，据TechCrunch报道，Anthropic近日提出一项AI安全法案，试图为前沿模型设定安全阻断条件。该法案引发关注的关键点在于：若模型可能导致50人及以上死亡，或可触发对模型发布的限制。
从公开表述看，这项政策被描述为防范AI失控的安全保障机制，意在为高风险模型设置更严格的发布门槛。相关条款将潜在大规模伤亡风险作为监管介入的重要判断条件。
但报道同时指出，该法案的实际效果可能与其安全目标存在张力。政策内容并非单纯强化政府监管，而是限制联邦机构在未经法官许可的情况下阻止模型发布。
这意味着，即便监管机构认为某款模型存在较高安全风险，其阻断动作也可能需要进入司法授权程序。相关讨论由此从能否防范AI失控，转向监管权限如何被重新划定。
在大模型能力持续提升、安全治理成为行业焦点的背景下，Anthropic推动的这项法案被视为科技企业在AI监管规则制定中的新动作。其最终影响仍取决于具体条款如何落地，以及监管机构、司法程序与模型发布机制之间如何衔接。
版权声明:本文由驱动中国整理发布,转载需注明出处与原文链接。如有疑问请联系
editor@qudong.com。
来源:驱动中国 · 原文链接:https://www.qudong.com/article/526922.html
本文价值
★★★★★
4
1 人已评
登录后为本文打分
评论加载中…