首页

文化杂谈|歌手泰勒·斯威夫特再被AI深度伪造引全球粉丝愤怒,约束AI迫在眉睫

2024年01月29日 22:23:40 扬子晚报 沈昭

美国知名歌手泰勒·斯威夫特再度成为了AI深度伪造的受害者,近日,大量由人工智能生成的泰勒虚假色情、血腥照片在多个社交平台疯传,浏览量已超过千万,引发社交媒体震动,这也引发了美国白宫的注意。

深度伪造的“泰勒·斯威夫特”在网上疯传

泰勒团队或将起诉相关网站

据报道1月26日,白宫发言人皮埃尔在记者会上回应了这一事件,并表示:“我们对这种图片的流传感到震惊。虽然社交媒体公司在内容管理方面作出了自己的独立决定,但我们认为他们在执行自己规则方面可以发挥重要作用,以防止错误信息和未经同意的真实人物的私密图像传播。”她还尤其补充了执法不严对女性的影响更大,她们是网络骚扰的主要目标。

据了解,这些深度伪造的泰勒照片是由某人或某些人使用AI生成并上传到了一家不良网站上,这一网站上充斥了众多以名人为主角的不雅照,虚假照片很快传播到了主流社交媒体并在网友之间迅速传播,这也引起了泰勒数以千万粉丝的强烈不满和愤怒,粉丝们发起了“保护泰勒”的话题,“这太恶心了,这是非法的。”“停止传播斯威夫特的人工智能图片,她是一个有感情的人,她会受伤。”“尊重泰勒·斯威夫特,尊重所有女性。”

目前部分参与传播的账号已被社交平台封禁,各社交平台也在清除流传的图片,但是漏网之鱼依然存在,有人自建网站或者通过匿名群组售卖这些深度伪造的照片。实际上这不是泰勒第一次成为AI深度伪造的受害者,就在不久前,有人使用人工智能技术仿造了她的声音和形象来为商品进行推广,让消费者误以为这是泰勒代言的商品。据报道,目前泰勒的团队已在考虑通过法律手段来应对这一事件,传播虚假照片的网站可能会面临法律诉讼。

AI深度伪造技术引大众不安

立法约束迫在眉睫

在粉丝们为泰勒的遭遇而深感愤怒的同时,其他网民则传达出了对AI深度伪造技术的发展感到强烈不安的声音,“泰勒是影响力很大的明星,要是我们普通人也被深度伪造了不雅照可怎么办?”“AI发展的太快太恐怖了,我都不敢想如果是我那真的要跳进黄河洗不清了。”“支持AI立法,滥用危害太大了。”“这真的和我们的生活息息相关,ai照片视频的人类面部表情已经很像真人了,声音也能模仿得一样,这样的骗局普通人难以分辨。”从2023年起,国内已发生多起AI深度伪造诈骗案件,中招率相当高,叫人防不胜防,也已出现了多起利用AI技术造黄谣、传播不良信息的恶性事件。

面对以假乱真的AI伪造技术,国内外的专家学者、相关领域的企业机构也想过不少应对办法,比如在去年12月,一款名为mist的隐形图片水印在网上开源发布,该水印用于抵抗AI模型对图片的训练和抓取,这一水印能够极大程度的干扰AI模型,使之生成的图片遭受不同程度的破坏。此外,也有开发者建议让AI生成平台、公司给相关的AI生成软件加上隐形水印机制,以快速识别AI并进行溯源,各个社交平台也应以技术手段加强对于疑似AI生成图、文、视频内容的识别功能。在国内抖音、小红书等平台也已对疑似为AI生成的图文视频内容进行标识以提示用户小心分辨真假。

然而说到底,这些防止AI、识别AI的技术手段是治标不治本的,对AI深度伪造只能起到有限的阻止、震慑作用,深度伪造技术的泛滥根源之一在于其中有利可图,制造传播这些深度伪造图片、视频的人不仅仅是出于个人的猎奇心态,还可能从中获得高额回报,即便国家法律认定AI深度伪造是不合法的行为,也无法阻止利欲熏心者继续滥用这一技术。对AI技术的管控已经不能仅停留在倡议、呼吁的阶段,规范的立法和相应的惩处制度的推行也迫在眉睫,Ai技术不是洪水猛兽,但确实需要一个能约束它的铁笼。

扬子晚报|紫牛新闻记者 沈昭

校对 徐珩

余下全文


责任编辑:陈浩然

泰勒·斯威夫特AI

热点新闻

新闻推荐

关于我们

报社简介 联系我们

人员查询

城市服务

广告服务 诚招英才

版权合作 商务合作

报社业务

新闻投稿 读者来信

报社公告 品牌监督

Copyright © 2016-2026 by www.zgcsb.com.

《中国城市报》社有限公司 中国城市网 版权所有

京ICP备15005404号-4 京公网安备 11010502043907号