用户内容被判AI生成未标识 法院认定平台违约

驱动中国11月11日消息，北京互联网法院日前披露一起因平台将用户文字内容判定为“AI生成未标识”并采取隐藏、禁言处理引发的诉讼，法院认定被告某科技公司运营的平台构成违约，判令解除涉案内容隐藏并删除后台相应违规处理记录。

据中央广播电视总台中国之声消息，网络平台中AI生成内容逐渐增多。依据《人工智能生成合成内容标识办法》，AI生成合成内容需要进行标识；未标识时，平台可依法采取限流、下架、限制账号等处置措施，相关主体还可能承担相应法律责任。此次诉讼涉及用户自行创作内容被平台判定为AI生成内容后的处理争议。

该案中，被告平台要求创作者对AI生成内容主动添加标识。平台用户小唐发布案涉文字内容后，被平台认定存在“包含AI生成内容但未标识”的违规情况，内容被隐藏，账号被禁言一天。小唐主张涉案文字内容由本人创作，并非AI生成，申诉后未解除处理，遂向法院提起诉讼。

北京互联网法院立案庭法官高雅介绍，平台规定创作者内容如包含AI生成内容，需要由创作者主动添加标识，被告因此对原告发布内容采取隐藏和禁言一天的处理；原告认为内容系自行创作，申诉未果后起诉。

被告平台辩称，涉案回答经机器识别及人工复核被认定为AI生成内容，并以涉及技术秘密和算法逻辑为由，主张无须向用户解释认定机制。

高雅表示，涉案回答属于即时性创作文本，诉讼过程中很难要求原告提供创作底稿、原文件等创作过程材料；如果平台认为内容为AI生成，应由被告对算法工具和运算过程进行合理举证或解释说明。

法院认定被告平台构成违约。法院认为，平台有权依据合同约定审查和处理涉案内容是否属于AI生成合成内容，但审查及处理结果应具有合理依据。算法工具运算过程和审查结果由被告掌控，被告应就相关事实进行合理举证或解释说明；被告未作适度解释说明，应对缺乏事实依据的处理承担违约责任。

法院判决被告解除对涉案内容的隐藏，并删除后台相应违规处理记录。该案除明确平台解释说明义务外，还提出平台需要解决误判救济问题。

高雅表示，如果平台使用算法识别AI生成内容并采取处理措施，应当对判定依据和结果作适度解释说明；平台应以用户可理解的方式说明算法运行机制。