正文复制

深度合成技术要严守法律底线
随着现代人工智能技术的发展，尤其是深度学习的爆发式发展，深度合成技术迅速兴起。所谓深度合成技术，是指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术。有了这个技术，“眼见”不一定“为实”，“有图”不一定“有真相”。深度合成技术是一把“双刃剑”。一方面，深度合成技术对社会具有正面影响，可以被运用于电影、游戏、广告与教育中，让受众的体验更丰富，让教学更具互动性和趣味性。另一方面，由于其“以假乱真”的特征，深度合成技术不可避免地会带来安全风险，可能侵犯公民权利、危害公共安全。 
目前，各国已经意识到了深度合成技术对社会可能带来的潜在危害，对技术进行适当的法律规制已经成为各个国家的共识。在我国，中共中央印发的《法治社会建设实施纲要（2020－2025年）》明确提出，要“制定完善对网络直播、自媒体、知识社区问答等新媒体业态和算法推荐、深度伪造等新技术应用的规范管理办法”。2020年，《网络信息内容生态治理规定》要求网络信息内容服务使用者和网络信息内容生产者、网络信息内容服务平台不得利用深度学习、虚拟现实等新技术新应用从事法律、行政法规禁止的活动。2021年开始实施的民法典人格权编中规定，不论是否出于营利目的，均不得利用信息技术手段伪造他人肖像、声音。2022年，《互联网信息服务算法推荐管理规定》明确要求不得生成合成虚假新闻信息。今年1月10日，我国针对深度合成服务治理的专门性部门规章——《互联网信息服务深度合成管理规定》（以下简称《规定》）正式施行，为互联网信息服务深度合成的规范发展提供了基本遵循和法律依据。但是该《规定》的法律位阶较低，规范力度及规范范围有限，作为行业监管和司法判决的依据力度尚存不足。因此，有必要在顺应深度合成技术快速发展态势、梳理不断涌现的新问题的基础上，将现有的规范进一步整合升级，不断扎牢规制深度合成技术的法制笼子。在这个过程中，应特别重视以下问题。 
充分认识深度合成可能带来的破坏性影响。深度合成背后的支撑技术是深度学习。用于深度学习算法的真实数据或模拟数据越多，合成的深度、合成产品的逼真程度就越高。深度合成产品基本上是由算法自动生成，制作成本和门槛较低，但是其可能带来的破坏性很大。一方面，深度合成技术提供了新型侵权手段，可能损害公民的合法权益。深度合成技术和相关APP极大降低了伪造音视频和文本的成本，可能成为不法分子实施网络犯罪的新工具。如行为人以非法占有为目的，通过深度合成技术制作的虚假音视频冒充被害人的亲友同事等实施诈骗或者勒索，普通公民很难辨别音视频的真实性，极易上当受骗，造成财产损失。另一方面，深度合成技术制造的虚假信息可能威胁社会安定。例如，在互联网平台借助深度合成技术捏造虚假新闻、炮制谣言等行为，将大大增加网络内容监管的复杂性，也可能带来社会信任危机与安全风险。