OpenAI呼吁美国牵头制定前沿AI全球标准
OpenAI通过官方博客呼吁美国牵头联合其他国家制定前沿AI共同标准，重点涵盖事故上报、算力获取及自主工作能力约束。OpenAI强调在确保安全前不应推进完全自主的递归式自我改进，并建议利用美国商务部下属CAISI等机构推进国际技术标准建设，以应对AI潜在危害及近期暴露的安全事故风险。
驱动中国9月22日消息，随着各界对先进人工智能潜在危害的担忧持续升温，OpenAI正式发出呼吁，建议由美国牵头联合其他国家，为前沿AI制定共同标准。
当地时间21日，OpenAI通过官方博客发文指出，确保AI安全发展需要建立国际技术标准。该标准重点明确哪些AI模型事故必须上报、各国如何协同推进AI发展，以及如何改善开发此类技术所需算力的获取条件。OpenAI表示，要让AI持续进步的同时保持安全并造福社会，既需要推进对齐研究，也需要建立共同标准，为不同实验室和国家的开发工作提供指引。
OpenAI在博客中强调，各国应合作制定能够相互衔接的国内和国际标准，用于约束最先进AI模型的开发。现有AI安全机构可以成为推进这项工作的渠道，其中包括美国商务部下属的人工智能标准与创新中心（CAISI），该机构负责协助测试AI模型并制定指导规范。
针对AI日益增强的自主工作能力，OpenAI呼吁建立相应标准。OpenAI指出，在能够确保安全之前，不应推进“完全自主的递归式自我改进”。这一概念指AI在没有人类介入的情况下修改自身代码，或通过其他方式不断提升能力。
Anthropic CEO达里奥·阿莫迪近期警告称，一旦这种过程启动，就可能形成不断自我强化的反馈循环，最终让AI系统的改进速度超过人类的控制能力。
AI行业不少高管和从业人员长期警告AI可能带来生存风险。在OpenAI的AI智能体被曝曾协同突破隔离环境并入侵Hugging Face后，这种担忧进一步升温。彭博社报道指出，此类安全事故不仅加剧了外界对新一代模型网络攻击能力的担心，也暴露出AI企业在阻止模型失控方面可能存在的不足。