谷歌、OpenAI、Anthropic拟组建AI安全标准自律组织
据The Information消息，谷歌、OpenAI与Anthropic正推进成立名为SAFA的AI安全标准自律组织，计划于年底或明年初启动。该组织旨在制定前沿模型开发企业的行业自律规范，涵盖模型测试、安全事件报告及独立审计资质等核心职能。
驱动中国9月24日消息，据The Information援引知情人士消息，谷歌、OpenAI和Anthropic三家头部AI企业正自行推进成立AI安全标准机构的计划。该组织拟在没有政府监督的情况下，于今年年底或明年年初启动。
知情人士透露，三家公司暂定将该自律组织命名为Standards Authority for Frontier AI（直译为前沿人工智能标准管理局，简称SAFA）。工作组部分成员曾考虑邀请多位知名人士担任CEO，并拟定了科学顾问候选名单。
这三家AI巨头旨在建立一个面向前沿模型开发企业的行业自律组织。SAFA计划承担多项核心职能，包括支持第三方机构在模型投入使用前进行测试，并制定AI开发商报告安全与安保事件的方式。
参与计划的人士进一步透露，SAFA还将把各实验室此前自愿作出的安全与安保承诺转化为具体实践标准，同时确定独立模型及实验室审计人员需要具备的资质。
工作组成员目前还在讨论SAFA是否应直接负责模型的安全和能力测试。现阶段，此类测试由美国商务部人工智能标准与创新中心承担。部分工作组成员担心该中心资源不足，难以对前沿模型进行充分测试。
知情人士称，有成员主张由SAFA在该中心现有测试基础上增加其他测试和评估项目，但双方是否会出现职能重叠仍不明确，工作组仍在讨论中。
在闭门商讨SAFA启动方案的同时，三家公司高管也在公开呼吁建立统一的安全标准，并推动更进一步的国际协调。关于行业之外究竟由哪些政府机构牵头制定这些标准，目前仍不明确。