“平台判定用户内容AI生成首案”宣判：平台需对算法审查适度说明

　　光明网讯（记者 孙满桃）《人工智能生成合成内容标识办法》（以下简称《标识办法》）将于2025年9月1日起正式施行。《标识办法》规范了人工智能生成合成内容标识的使用，要求用户发布AI生成合成内容时主动声明并进行标识，网络信息内容传播服务提供者应当采取措施，规范生成合成内容传播活动。

　　日前，北京互联网法院审结了一起网络服务合同纠纷案，这是平台判定用户内容AI生成第一案。原被告双方作为用户和网络服务提供者，围绕人工智能生成内容标识起了争端。

　　法院认为，网络内容服务平台有权利用算法工具对用户发布的内容是否使用AI生成合成进行审查和处理。如用户违反有关规定，平台可对违规行为进行处理。若平台判定用户发布的内容为AI生成合成，用户需要提供证明该内容系人类创作的初步证据，法院可结合创作形式、内容、载体等因素综合调整用户的举证责任，并认定证据的证明效力。

　　案情显示，原告为涉案平台用户，被告为涉案平台运营者。原告在平台上发布了“打工并不能让你真的赚到多少钱，但可以开启你的新视角……如果你对学车感兴趣的话并且以后打算开车的话，可以在你最清闲的一个假期完成它……”，该内容被涉案平台判定为“包含AI生成内容但未标识”的违规情况，涉案平台作出将该内容隐藏并将用户禁言一天的处理。

　　之后，原告进行申诉未成功。原告主张，其并未使用AI创作，被告的行为违约，请求法院判令被告撤销隐藏涉案内容和禁言账号一天的违规处理，并在后台系统中删除违规处理记录。

　　被告辩称，被告有权依据双方网络服务合同审核认定原告使用平台服务时的违规行为并采取必要治理措施，不构成违约。原告发布的内容经机器识别为“包含人工智能生成”，经过人工复核，认定该内容缺乏明显的人类情感特征。被告作为网络服务提供方，有权自行选择合理、必要的方式和技术，网络服务合同未约定被告有义务向用户提供、解释技术秘密和算法逻辑，原告无权获知。

　　法院经审理认为，本案中，被告结合《互联网信息服务深度合成管理规定》，对发布时未主动声明的内容，平台将采取适当措施进行流通限制并添加相关标识。未经标签声明，使用人工智能生成的内容构成违规。原告系平台注册用户，上述公告属于平台服务协议的组成部分。因此，被告有权依据合同约定对涉案内容是否属于AI生成合成内容进行审查和处理。

　　另外，法院认为，平台的审查及处理结果应有合理依据。此案中，原告主张涉案内容并非AI生成内容，被告对涉案内容的审查及处理违反平台服务协议，在一般情况下，原告应该提供如创作底稿、原件等证明人类创作属性的初步证据，但原告回答内容系即时性创作文本，在客观上无法提供上述证据，由其提供上述证据亦不存在合理性和现实可行性。而被告基于算法工具的运算结果得出涉案内容为AI生成合成的审查结论，被告既是算法工具掌控方又是结果判断方，算法工具运算过程和审查结果由被告掌控，在此情况下，被告应就该事实进行合理举证或解释说明。

　　法院认为，被告未对算法决策依据和结果进行适度的解释和说明，应对其没有事实依据的情况下对涉案账户的处理行为承担违约责任。被告系统后台仅存在“折叠回答”这一条处理记录，现因该处理已在该案中被判定为不合规，被告应对该处理记录予以删除。对“禁言1天”的处理没有后台记录，原告主张删除没有事实依据，法院对该诉讼请求不予支持。

　　北京互联网法院综合审判一庭副庭长、四级高级法官袁建华表示，网络内容服务平台有权利用算法工具对用户发布的内容是否使用AI生成合成进行审查和处理。对于算法解释的司法审查应符合比例原则。一般情况下，平台无需提供技术细节、源代码或原始数据，而需围绕案件争议事实以可理解的方式举证或说明算法运行机制、对应可能出现的误判是否采取了合理的救济措施。

　　中国人民大学法学院副教授黄尹旭认为，此案是对AI生成合成内容标识的标记、平台识别和治理在司法审查规则方面的有益探索，一方面肯定了网络内容服务平台利用算法工具对AI生成合成内容进行审查和处理，履行信息内容管理主体责任的积极作用；另一方面，认定网络内容服务平台在即时性创作文本场景下对使用算法自动化决策结果承担适度说明义务，并为司法审查阶段的算法解释说明程度确立了一定的标准。