文化杂谈|AI深度合成技术的尽头不该是诈骗
2024-03-03 14:32:11

这两天刘德华被讨论的频率有点高,不同的是一个是他在《流浪地球》中饰演的“图恒宇”一角,一个则是他本人,相同的是,不论是对“图恒宇”的讨论还是对刘德华本人的讨论,都绕不开一个话题,那就是人工智能深度合成技术。

2月底,音乐人包小柏用AI深度合成技术复原了自己已去世的女儿一事引起了广泛的关注,AI合成的女儿可以唱歌,可以对话,还为妻子唱起了生日歌。这一场景让很多人都想到了电影《流浪地球2》中“数字生命”这一概念,在电影里,刘德华饰演的图恒宇是数字世界架构师,他的女儿图丫丫车祸去世后,图恒宇开始想要把女儿在数字世界复活,让图丫丫在数字世界中度过完整的一生。

电影中图恒宇的故事感动了不少观众,包小柏用AI“复活”女儿的尝试也让不少网友落泪。而同样是使用AI深度合成技术,发生在刘德华身上的事就不是那么愉快了。3月1日晚,刘德华电影公司映艺娱乐发布了《关于AI合成声音侵权事件的严正声明》,声明中称近期有微信用户“华仔共享团”(微信号:KOH173)及其关联视频号“华仔集结号”通过信息技术手段伪造刘德华先生的声音,并在未经授权许可的情况下,于微信平台连续发布其剪辑拼凑视频,导致公众发生误认,从而达到利用刘先生的知名度吸引流量、售卖商品、从中营利的目的。该行为已严重侵害刘德华先生的肖像权、姓名权及声音权益,并涉嫌构成诈骗。

同样都是使用了AI深度合成技术,但大众对于这两件事情的评价和态度截然相反,音乐人包小柏因为对女儿强烈的思念,自己从零开始学习人工智能技术,一点点的训练模型,不断的调试数据,他花了两年时间,通过女儿生前留下的三句语音重现了女儿的声音,实现了即时对话,“这就是AI存在的意义啊。”“质疑图恒宇,理解图恒宇,成为图恒宇。”“AI或许就是最好的寄托思念的工具吧。”但对于刘德华被有心人AI合成用于诈骗、营销和引流,不仅是华仔的粉丝表示了愤怒,众多网友也表示了不满和担忧,“正经事不干,有点技术就想着搞诈骗,无语了。”“明星被AI深度伪造能有关注度,有专业团队处理,我们普通人要是也被AI深度伪造了咋办啊?”

基于AI深度伪造技术的易得性、低廉性、高仿真性,AI深度伪造技术给艺术设计、社交娱乐等领域带来了新的更能,但这一技术也带来了巨大的隐患,几张照片,几条语音就能合成出以假乱真的伪造视频或者虚假的面孔、声音信息,被不法分子用于诈骗、引流、营销等,不久前出现的乌克兰女网红的面孔、声音信息遭到AI 盗取后变成了国内的俄罗斯带货网红一事也是同样的情况。在各种反诈小贴士中,警惕AI深度合成诈骗的提示出现的也越来越频繁,AI客服打诈骗电话的、冒充熟人诈骗的、假冒公众人物误导公众的、假冒官方发布虚假信息的、冒用或者虚拟合成身份骗保的……许多人多年来累积的反诈常识在AI深度合成技术面前不堪一击,这也确实给反诈工作带来了新的挑战。

AI深度合成是工具,本身没有黑白之分,是锦上添花还是助纣为虐,全在使用者的一念之间。AI技术发展的越来越快,几乎每隔个几天就能看到一项新的技术或者新的AI平台出现在网上,在反制AI被滥用、被恶意使用上,传统的个人经验恐怕能起到的作用越来越小,用魔法打败魔法或许会更加靠谱,让AI来识别AI,用技术来约束技术,AI深度合成应当被用在正途,至少它的尽头不应该是诈骗。

扬子晚报|紫牛新闻记者 沈昭

校对 徐珩

| 微矩阵

地址:南京市建邺区江东中路369号新华报业传媒广场 邮编:210092 联系我们:025-96096(24小时)

 

互联网新闻信息服务许可证32120170004 视听节目许可证1008318号 广播电视节目制作经营许可证苏字第394号

版权所有 江苏扬子晚报有限公司

 苏ICP备13020714号 | 电信增值业务经营许可证 苏B2-20140001