人工智能(néng)（AI）技术飞速发展，一些不法分(fēn)子利用(yòng)其进行违法犯罪活动，给网络安全带来了严峻挑战。近期，公安机关破获多(duō)起涉人工智能(néng)案件。

今年6月，浙江绍兴上虞區(qū)警方发现有(yǒu)网民(mín)发布了关于上虞工业园區(qū)发生火灾的视频，浏览量在短时间内迅速上升。视频中，上虞區(qū)一工业园區(qū)内火势猛烈，整个园區(qū)被浓烟覆盖，现场不时传出爆炸声，场面惊心动魄。

民(mín)警核查发现，视频中的建筑、森林大火场景，并非该工业园真实场景，疑似源自其它视频。经分(fēn)析，民(mín)警判断该视频是利用(yòng)人工智能(néng)合成技术，将网络上多(duō)段不同视频剪辑拼接而成。警方经侦查，认定某网络科(kē)技公司员工有(yǒu)较大作案嫌疑，立刻赴该公司所在地抓获包括汤某在内的3名犯罪嫌疑人。

“犯罪嫌疑人首先在网上搜集热门话题，通过生成式人工智能(néng)服務(wù)自动生成脚本，在网上抓取相关视频片段，然后利用(yòng)AI软件合成完整视频，配上音乐、字幕。不到一分(fēn)钟，一段虚假视频便‘新(xīn)鲜出炉’。”上虞區(qū)分(fēn)局民(mín)警沈林丰介绍，為(wèi)获得流量、博人眼球，自今年5月以来，该团伙不断利用(yòng)人工智能(néng)技术制作虚假视频、散布谣言，在网上发布未经核实的虚假视频共3000多(duō)个。

随着人脸识别技术越来越普及，一些不法分(fēn)子开始利用(yòng)“AI换脸”等技术实施盗窃、诈骗等犯罪，引发了公众对于个人信息保护的担忧。

“我的APP好像被黑了！”今年4月13日，朱女士到当地派出所报案，称有(yǒu)人登录某政務(wù)APP，擅自下载了朱女士公司的電(diàn)子营业执照。接警后，当地公安机关迅速展开侦查，很(hěn)快确认曾某某有(yǒu)重大作案嫌疑。

经审查，犯罪嫌疑人曾某某利用(yòng)自己的手机号码注册账号，并通过朱女士的姓名、身份证号等信息进行实名认证，然后通过人脸识别进行绑定，最终成功登录账号进行作案。

“曾某某通过网購(gòu)店(diàn)铺引流，利用(yòng)‘客户’提供的人脸照片，通过专业AI软件制作合成人脸动图，以人脸识别验证方式登录各类APP，非法获取相关信息。”办案民(mín)警介绍。

“每次交易价格不等，只是觉得这样挣钱比较容易，没想到已经触犯了法律。”曾某某悔不当初。据了解，曾某某通过此类手段共制作动态人脸1000多(duō)个，获利9万多(duō)元。目前，曾某某已被采取刑事强制措施，案件正在办理(lǐ)中。

公安部网络安全局相关负责人介绍：“犯罪分(fēn)子用(yòng)于实施‘AI换脸’的物(wù)料主要為(wèi)照片，特别是身份证照片，同时结合人员姓名、身份证号来突破人脸识别验证系统。為(wèi)防范和打击此类新(xīn)型犯罪，公安机关联合科(kē)研单位，开展人脸识别与活體(tǐ)检测技术安全测评，覆盖了境内用(yòng)户量大、问题隐患突出的各类重点APP，及时发现人脸识别验证系统存在的风险隐患，通报运营主體(tǐ)升级安全保护措施和人脸识别算法。”据介绍，公安机关依托“净网”专项行动，组织专项会战，严打泄露身份证照片等图像信息的犯罪源头，破获多(duō)起“AI换脸”案件，抓获相关犯罪嫌疑人，有(yǒu)效遏制了该类犯罪势头。

“不法分(fēn)子滥用(yòng)人工智能(néng)技术，给社会带来严重危害，也触犯了相关法律。”警方介绍，根据法律规定，使用(yòng)人工智能(néng)技术制作散布虚假信息，扰乱社会秩序，可(kě)能(néng)构成编造、故意传播虚假信息罪；利用(yòng)人工合成技术破解他(tā)人账号、窃取他(tā)人个人信息，则可(kě)能(néng)构成侵犯公民(mín)个人信息罪。此外，如果使用(yòng)人工智能(néng)等技术手段从事欺凌、恐吓、威胁等行為(wèi)，就可(kě)能(néng)构成寻衅滋事罪等。

人工智能(néng)技术操作简单、可(kě)定制性强、应用(yòng)场景广泛，降低了链条式犯罪的难度，被黑客等不法分(fēn)子利用(yòng)后危害性极大。据介绍，对人工智能(néng)技术产生的新(xīn)应用(yòng)、新(xīn)业态，公安机关坚守价值引领与技术“纠错”并行，保护人工智能(néng)技术健康发展的同时，防范打击利用(yòng)人工智能(néng)技术侵犯公民(mín)权利、危害公共安全的新(xīn)型案件，维护风清气正的网络环境，全力保障网络空间安全。

办案民(mín)警提示，要警惕利用(yòng)人工智能(néng)技术进行新(xīn)型犯罪，建议个人加强信息保护意识，防止信息泄露，不轻易提供人脸、指纹等个人生物(wù)信息给他(tā)人；管理(lǐ)好自己的“朋友圈”，尽量避免过多(duō)暴露隐私；警惕不明平台发来的广告、中奖等链接，不随意点击、填写信息，以免上当受骗。

《 人民(mín)日报 》（ 2023年10月26日 18 版）