上传一张照片，就可(kě)以把歌手换成自己；一键制作，就可(kě)以变成视频中的经典角色……一段时间以来，“AI（人工智能(néng)）换脸”技术被广泛应用(yòng)于短视频的二次创作，给社会公众带来了新(xīn)鲜體(tǐ)验。不少网友感叹，“AI换脸”生成的视频，惟妙惟肖，很(hěn)有(yǒu)意思。但也有(yǒu)网友认為(wèi)“AI换脸”技术存在不小(xiǎo)的安全隐患，应当加强监管。

　　近日，河北石家庄一位律师在来信中反映，有(yǒu)的地方企业注册需要人脸识别，易被人利用(yòng)“AI换脸”技术冒名注册，一旦发生这样的情况，需要花(huā)费大量的时间精力去维权，“建议提升人脸识别准确性的同时，增加多(duō)种验证方式，同时仔细审查身份证等信息。”

　　近年来，有(yǒu)不法分(fēn)子為(wèi)了牟利，利用(yòng)“AI换脸”技术冒充熟人实施诈骗或者盗取个人信息等，侵害群众权益。据内蒙古包头警方通报，某公司法人代表郭先生10分(fēn)钟内被骗430万元，犯罪分(fēn)子的诈骗手法就是通过“AI换脸”和拟声技术佯装熟人，尽管郭先生通过视频聊天“核实”身份，但其“好友”却是犯罪分(fēn)子用(yòng)“AI换脸”技术假冒的。

　　此外，“AI换脸”技术还可(kě)能(néng)侵害公民(mín)的个人信息安全甚至公共信息安全。浙江杭州萧山(shān)區(qū)检察院曾对一起利用(yòng)“AI换脸”技术侵害公民(mín)个人信息案向杭州互联网法院提起民(mín)事公益诉讼。虞某某从互联网公共空间非法获取众多(duō)人脸信息，利用(yòng)“AI换脸”等深度合成技术非法处理(lǐ)、制作视频后，在社交软件上传播并获利，甚至还提供换脸视频定制服務(wù)，使不特定群體(tǐ)成為(wèi)潜在的被侵害对象。最终，杭州互联网法院认定虞某某侵害公共信息安全，还应承担相应的民(mín)事侵权责任。

　　“AI换脸”技术是把双刃剑。“在為(wèi)群众生活提供便利的同时，也将人们从真实场景中抽离出来，打破了‘人脸即真实’的传统认知和社会共识，造成视觉效果失真，生物(wù)识别信息的真实性被一定程度消解，存在信息安全和人身权利被侵害的风险。”中國(guó)社会科(kē)學(xué)院法學(xué)研究所网络与信息法研究室副主任、中國(guó)法學(xué)会网络与信息法學(xué)研究会常務(wù)副秘书長(cháng)周辉说。

　　“从司法实践来看，目前已有(yǒu)不少因‘AI换脸’生成短视频侵犯知识产权或是人格权的案件进入到诉讼程序。”北京互联网法院综合审判一庭副庭長(cháng)朱阁介绍，例如相声、影视剧等都属于著作权法保护的作品，短视频平台用(yòng)户用(yòng)“AI换脸”技术将相声、影视剧等换脸上传，可(kě)能(néng)面临侵犯著作权的法律风险。

　　我國(guó)民(mín)法典将人格权独立成编，规定任何组织或者个人不得以丑化、污损，或者利用(yòng)信息技术手段伪造等方式侵害他(tā)人的肖像权。“短视频平台未征得当事人同意，提供他(tā)人形象模板让用(yòng)户使用(yòng)‘AI换脸’技术制作图片或视频并发布，平台和用(yòng)户都面临侵犯他(tā)人肖像权的法律风险。”朱阁提示，即使用(yòng)户基于对平台的信赖或者已经付费，也可(kě)能(néng)构成侵权。

　　根据相关规定，提供和使用(yòng)生成式人工智能(néng)服務(wù)，应当尊重他(tā)人合法权益，不得危害他(tā)人身心健康，不得侵害他(tā)人肖像权、名誉权、荣誉权、隐私权和个人信息权益。“‘AI换脸’等新(xīn)技术本身是中性的，但应规范使用(yòng)。”周辉表示，短视频平台等深度合成服務(wù)提供者在投入使用(yòng)相关应用(yòng)时，应充分(fēn)考虑法律风险和市场风险，履行法律规定的显著标识义務(wù)，向公众提示深度合成后果，促使技术健康合规发展。

　　“社会公众既要增强个人信息特别是人脸等生物(wù)特征等信息的保护意识，同时使用(yòng)新(xīn)技术也要尊重他(tā)人的知识产权和人格权，尽到审慎的注意义務(wù)，避免陷入不必要的诉讼纠纷。”朱阁提醒。

　　《 人民(mín)日报 》（ 2023年12月04日 07 版）