核心阅读

2020年，中共中央印发《法治社会建设实施纲要（2020—2025年）》。纲要提出，制定完善对“算法推荐、深度伪造等新(xīn)技术应用(yòng)的规范管理(lǐ)办法”。作為(wèi)一项互联网新(xīn)技术应用(yòng)，深度伪造技术正越来越广泛地应用(yòng)于现实场景，也出现被滥用(yòng)错用(yòng)的情况。推动技术的健康成長(cháng)和使用(yòng)，需构建更完善的法律和技术保护體(tǐ)系。

有(yǒu)一种技术，能(néng)对声音、影像进行篡改、伪造，从而实现“变声”“换脸”，并且高度逼真、很(hěn)难甄别——这项互联网新(xīn)技术叫做深度伪造技术。

借助人工智能(néng)技术可(kě)实现“换脸”“变声”

日常生活中，深度伪造技术的应用(yòng)并不少见：智能(néng)客服的拟人回答(dá)、影视剧对角色的换脸处理(lǐ)……这些应用(yòng)场景通过对图像、声音、视频的篡改、伪造和自动生成，产生高度逼真的效果。

深度伪造技术本质上是一种人工智能(néng)合成内容技术。据奇安信集团反金融犯罪专家卢维清介绍，起初，研究者使用(yòng)自编码器实现对原始人脸的图像分(fēn)解再还原。随着深度學(xué)习和先进算法的出现，深度伪造技术变得更加复杂成熟，除了图像，声音、视频都能(néng)被更精细地伪造或自动合成。以生成对抗网络算法為(wèi)例，其同时搭载了生成器和鉴别器两个神经网络，前者基于一个数据库自动生成模拟该库中数据的样本，后者评估生成器生成数据的真伪，两者在互相博弈學(xué)习中产生大规模和高精确度的输出，实现真假难辨的效果。

技术是一把双刃剑。深度伪造这项人工智能(néng)技术起初仅限于學(xué)术研究，后来广泛应用(yòng)于多(duō)个现实场景，发挥着一定正面效应。

卢维清举例说，在教育场景中出现的虚拟教师和虚拟历史人物(wù)，能(néng)让数字教學(xué)更具互动性和代入感；影视制作通过还原或者修改角色镜头，降低修复成本，提高制作效率；虚拟新(xīn)闻主播和客服，无需真人出现，可(kě)以降低人力投入；安防领域借此技术生成更加逼真的图像、视频，测试现有(yǒu)安全系统，寻找技术漏洞，助力更新(xīn)迭代；娱乐休闲应用(yòng)程序则可(kě)以对图片和视频做特效处理(lǐ)，增加趣味性……

但是，随着技术的发展及应用(yòng)门槛的降低，许多(duō)个人用(yòng)户也能(néng)轻松实现“换脸”“变声”，还有(yǒu)一些人将深度伪造技术应用(yòng)于安全漏洞攻击、虚假音视频诈骗等，技术滥用(yòng)带来的风险逐渐為(wèi)人们所知。

可(kě)能(néng)被诈骗、网络攻击等非法行為(wèi)利用(yòng)

此前，有(yǒu)國(guó)外网民(mín)利用(yòng)换脸技术伪造艺人的影像资料并发布了视频，引发争议。

深度伪造技术被滥用(yòng)的隐患，简单来说就是盗用(yòng)他(tā)人的身份，让人“言”所未言、“行”所未行，以假乱真，混淆真相。

据专家介绍，若无有(yǒu)效的监管措施，任由深度伪造技术被滥用(yòng)错用(yòng)，社会生活中的每个人都存在被这项技术侵害的可(kě)能(néng)性。

例如，面部识别、声纹认证等生物(wù)特征识别机制有(yǒu)可(kě)能(néng)面临失效；公司企业可(kě)能(néng)被虚假消息欺诈，内部资料可(kě)能(néng)因為(wèi)伪装登录而面临丢失、篡改、删除；有(yǒu)关部门在司法认证、证据收集、识别环节将面临真假难题；金融机构管理(lǐ)的账户可(kě)能(néng)遭遇伪装窃取，转移资金；電(diàn)信诈骗里伪装公检法、银行、通信人员的手段会更加复杂，令人防不胜防……这些场景有(yǒu)可(kě)能(néng)带来一系列更深层次的社会问题。

构建更完善的法律和技术保护體(tǐ)系

2020年，中共中央印发《法治社会建设实施纲要（2020—2025年）》。纲要提出，制定完善对“算法推荐、深度伪造等新(xīn)技术应用(yòng)的规范管理(lǐ)办法”。今年3月，國(guó)家互联网信息办公室、公安部指导各地网信部门、公安机关加强对语音社交软件和涉“深度伪造”技术的互联网新(xīn)技术新(xīn)应用(yòng)安全评估工作，并对未履行安全评估程序的11家企业进行约谈，引发社会关注。

面对深度伪造技术被滥用(yòng)错用(yòng)引发的犯罪和不良社会影响，专家建议，需尽快制定应对措施，防范化解风险。

宜鼓励研发鉴伪和溯源技术。卢维清认為(wèi)，目前學(xué)术界和商(shāng)业界的防伪开发项目多(duō)针对特定产品而非通用(yòng)的音视频，还没有(yǒu)构建通用(yòng)性的视频鉴伪网络。要加大对通用(yòng)且高效鉴伪技术的研发投入和支持力度，鼓励科(kē)研院所和企业研究检测算法、主动防御算法、深度伪造图像和伪造语音的融合检测技术等。

宜加强对社会各界的科(kē)普。通过培训等方式让人们意识到深度伪造技术被滥用(yòng)错用(yòng)带来的危害，逐步提高用(yòng)户的防范意识和鉴别能(néng)力，為(wèi)相关鉴别技术的发展提供机会，促进深度伪造技术的合法利用(yòng)。

宜加强相关司法體(tǐ)系的建立。专家建议，建立更加完整的法律法规體(tǐ)系，对恶意制作或传播的用(yòng)户进行惩戒。2019年，國(guó)家互联网信息办公室发布《网络信息内容生态治理(lǐ)规定》，网络信息内容服務(wù)使用(yòng)者和网络信息内容生产者、网络信息内容服務(wù)平台不得利用(yòng)深度學(xué)习、虚拟现实等新(xīn)技术新(xīn)应用(yòng)从事法律、行政法规禁止的活动。尽管已出台了相关法律法规遏制深度伪造技术的滥用(yòng)，但还需要相关部门建立更加完整细致的法律體(tǐ)系，在區(qū)分(fēn)伪造视频是属于娱乐还是恶性传播等问题上厘清边界，為(wèi)新(xīn)技术的应用(yòng)划好红線(xiàn)。

对一般用(yòng)户而言，由于不具有(yǒu)专业知识，很(hěn)难识别出伪造的信息。尤其在技术发展迅速的背景下，专业人士也很(hěn)难鉴别深度伪造的音视频。

卢维清建议，在有(yǒu)关财产、信用(yòng)、安全等敏感问题的处理(lǐ)上，用(yòng)户要更加谨慎，做好数据备份以便取证，对于不确定的情形及时联系官方客服或报警求助。

日常使用(yòng)手机时，最好设置安全等级高的访问密码，拒绝打开陌生的网站和应用(yòng)软件，尤其是系统提示有(yǒu)安全隐患的访问要及时停止，并定期对電(diàn)脑系统杀毒，尽量减少在网上发布带有(yǒu)个人信息的图像、音视频等。如果身份证、驾驶证等有(yǒu)关个人安全和信息的物(wù)件丢失，要第一时间挂失。平时多(duō)學(xué)习法律知识，关键时刻采用(yòng)法律武器维护个人的合法权益。

防范深度伪造技术被滥用(yòng)错用(yòng)，仅依靠个人的力量还不够，國(guó)家、企业都要肩负起重任，保护公民(mín)隐私，依据社会职能(néng)构建更完善的法律和技术保护體(tǐ)系。（记者  余建斌  刘诗瑶）