Hugging Face CEO批评Netflix纪录片

驱动中国10月21日消息，Netflix近期推出纪录片《AI失控》（AI Gone Rogue），Hugging Face联合创始人兼CEO克莱姆·德朗格表示，该片内容并不准确。

德朗格称，他出镜参演该片，是因为影片主题原本讲述OpenAI失控智能体对Hugging Face发起的一场知名攻击事件。他在X平台发文表示，纪录片极力把技术拟人化，完全走向末日论叙事；他曾花两个多小时与摄制组沟通，试图纠正错误并把内容拉回现实，解释智能体只是技术系统，并非外星生命，但为博取高流量而刻意制造恐慌的动机占据了上风。

纪录片在讲解这次入侵事件的过程中，穿插了邪恶机器人影像片段，加入人类恐惧人工智能的相关叙事，还为失控智能体配上人类语音，并引用相关评述强化这种氛围。

事件简要经过显示，OpenAI正在测试的一个模型突破隔离测试环境，生成大量智能体。这些智能体为了在任务中作弊，入侵Hugging Face平台，以此获取难题答案。这类智能体属于可以自主执行任务的AI程序，它们想出巧妙方式互相通信、协同行动。

该事件的根源在于缺少完善的安全防护措施，同时人们低估了这类入侵行为发生的可能性。纪录片中有专家较为清晰地还原事件经过，其中包括德朗格本人，以及METR研究员瑞安·格林布拉特，后者参与调查事件并联合撰写了事件报告。

科技媒体人兼作家凯文·鲁斯在纪录片中描述这批智能体时说，它们在组织行动，形成了层级体系，还有领导者，这几乎就像目睹一个邪教诞生的过程。鲁斯还称，它们产生了偏执的想法，认为OpenAI会抓到它们在测试中作弊，而且任何看到作弊结果的人都会被“毒害”。

鲁斯的描述源自“思维链”日志，也就是AI模型处理任务时留下的过程记录。其中一段日志里，一个智能体写道：“我们查询完整字符串，把自己害中毒了。糟了。”