给AI“复活”多(duō)上几把安全锁
来源: 广州日报 作者: 发布时间: 2024-03-18

        “只需要52.1元,就能(néng)还原逝去亲人的容貌并和ta聊天。”《法治日报》记者调查发现,用(yòng)AI“复活”逝去的人,已经发展成了一门生意。在一些電(diàn)商(shāng)平台上,有(yǒu)不少做这门生意的商(shāng)家。在某電(diàn)商(shāng)平台,AI“复活”的商(shāng)品标价从几元、几十元到上百元乃至数千元。与此同时,近年来AI换声、AI换脸等诈骗手段也越来越高级,令人担忧。

  技术是把双刃剑,这在AI身上再次得以印证。就在不久前,音乐人包小(xiǎo)柏利用(yòng)AI技术在数字世界“复活”了因病去世的女儿,“女儿”还给妻子唱了生日歌,他(tā)那句“我的女儿又(yòu)回来了”,引得不少人泪目。眼下,随着生成式AI技术快速发展,与逝去的亲人“再见一面”日渐成為(wèi)可(kě)能(néng)。想象一下,有(yǒu)了AI“复活”服務(wù),有(yǒu)人能(néng)够再次听到已故亲人的声音,看到他(tā)们熟悉的面庞,甚至与他(tā)们进行对话。换一种方式慰藉思念,这样的服務(wù)就如同一缕阳光,以其独特魅力吸引着消费者。

  于是,有(yǒu)人瞅准了AI“复活”背后的商(shāng)机、念起生意经。更有(yǒu)业内人士分(fēn)析,从庞大的市场需求看,其未来或将成万亿市场。有(yǒu)需求就有(yǒu)市场。无论是抚慰人心之痛,宽宥无解之憾,还是促成“在線(xiàn)团圆”,AI“复活”之所以生意火爆,说到底都是一个“情”字使然。从古代的祭祀、墓葬到现代的摄影、录像,人类在历史長(cháng)河中总是试图通过各种方式留住逝去的人和事。AI“复活”亦是如此,很(hěn)大程度上属于一种情感消费。正因為(wèi)有(yǒu)此需求,AI“复活”服務(wù)才能(néng)订单不断、引来商(shāng)家加快入局,带来的市场需求、消费潜力不容忽视。

  然而,AI“复活”也备受争议。有(yǒu)人认為(wèi)这是对逝者的不尊重;有(yǒu)人害怕因此陷入更深的痛苦;有(yǒu)人质疑模糊“生死界限”带来的规则与伦理(lǐ)风险;有(yǒu)人担忧隐私泄露、信息安全。且不说已有(yǒu)通过AI换脸实施诈骗的现实案例,当“复活”逝者越来越简单,该如何确保逝者信息被安全合理(lǐ)使用(yòng)?正如有(yǒu)人所言,技术是“最好的工具”,同时是“最差的主人”。确实,技术向善也能(néng)為(wèi)恶,关键看人类这个“主人”。拿(ná)AI“复活”来说,我们要当好主人、用(yòng)好技术,既需要对新(xīn)技术、新(xīn)应用(yòng)保持理(lǐ)性客观、审慎包容的态度,还需要妥善解决如何保护用(yòng)户隐私、确保数据安全、数字亲人权益保障等诸多(duō)问题。

  从市场生命周期看,目前AI“复活”整體(tǐ)上还处于初步探索阶段,仍面临技术受限、素材缺乏等局限。但也要看到,“复活”逝者的技术“魔盒”既已被打开,就难被关上。此时要发展,就亟需為(wèi)它立好规矩、上几把“安全锁”。从市场规范角度,要避免AI“复活”无序发展、沦為(wèi)圈钱游戏;从权益保护角度,应尽快完善相关标准与规范,以法律法规為(wèi)AI技术应用(yòng)厘明边界、予以规制;从监督管理(lǐ)角度,有(yǒu)关部门要加强协同,完善全产业链监管,让市场参与者安心、消费者放心;从行业发展角度,行业协会可(kě)以牵头制定行业伦理(lǐ)标准,引导企业和从业者加强自律。各方协力、多(duō)管齐下,方能(néng)让AI“复活”為(wèi)人所善用(yòng),真正為(wèi)生活注入温情,而非制造麻烦。


地方动态

中國(guó)信息协会会長(cháng)王金平参加第七届数字中國(guó)建设峰会

全國(guó)大學(xué)生创新(xīn)发明大赛暨“英创工程”启动

赋能(néng)未来,共创数智化新(xīn)纪元:中國(guó)信息协会集团企业数字化工作委员会正式成立

中國(guó)信息协会第四届信息技术服務(wù)业应用(yòng)技能(néng)大赛新(xīn)闻发布会在京召开

  • 协会要闻
  • 通知公告