返回首页
福州新闻网 >> 新闻频道 >> 天下

当网络谣言遇上AI……

2024-05-27 16:46:49来源:新华社

“广州限制外卖配送”“河南信阳市中心体育馆惊险崩塌”“甘肃红十字会收取160万元暖手袋管理费”……这些所谓“有图有视有真相”的重磅“消息”,曾在网上广泛传播,引起大量网民关注。

令人大跌眼镜的是,警方事后的调查发现,这些耸人听闻的“消息”,是不法分子使用AI制作的网络谣言!尽管警方紧急辟谣、澄清事实,可谣言已经领跑真相一大截,让很多人信以为真,给当事方带来极大困扰。

AI加持下的互联网,给人们生活场景的丰富、生产效率的提升带来了全新机遇。但当谣言披上AI的外衣时,谣言和真相更难辨认,造谣的门槛和成本极大降低,传播的效率和产生的影响成倍增加,成为亟需治理的一道网络新课题。

1

近日,多地警方通报了一批利用AI造谣的典型案例。

去年12月,甘肃积石山发生6.2级地震,张某某利用AI软件,编造了“甘肃红十字会采购暖手袋,收取160万元管理费”“甘肃执法队扣押救灾货车”等不实信息,并通过多个网络平台进行发布,对当地抗震救灾工作造成严重影响。

今年2月,杜某利用AI技术,编造了“某著名女星命运多舛、含恨离世”的短视频,上传网络后引起广泛传播,严重影响了当事人的生活和声誉。

一份近期审结案件的材料显示,不法分子利用AI技术,以热点新闻和随机网络视频为素材,短时间内就制作出约1万条虚假视频新闻,其中发布出去的20多条视频,涉及多个省份,浏览量超过百万。

清华大学新闻与传播学院新媒体研究中心今年4月发布的一份报告显示,经济领域已成AI谣言的高发地,餐饮外卖、快递配送等民生行业是AI谣言的重灾区。

2

当网络谣言遇上AI,后者低成本、高效率、操作简单的特点,使谣言视频的批量化生产成为可能。AI谣言的视频形态,也契合了部分网民“有图有视频就有真相”的认知,使得AI谣言常常一经上网,就能迅速传播。

从查获的典型案例来看,“吸睛引流”“变现牟利”等,是不法分子屡屡提及的高频词。

自媒体时代,“注意力经济”为很多人提供了发家致富的机遇。但一些人信奉“流量至上”,为了流量,什么技术都敢用、什么手段都敢使,甚至把冲撞道德底线、践踏法律红线当作“流量密码”,猎奇、八卦、低俗、编造假新闻等等,都成为追求流量的工具。 

AI造谣更衍生出一条条黑灰产业链。

去年国庆假期,“4岁女童海边走失”发生后,上海警方发现十余个散布“走失女童曾被丢弃”等虚假信息的自媒体账号,并在进一步侦查中打掉一个“水军”团伙。该团伙借助AI技术,批量制造不实帖文,大量转发炒作,非法获利4万余元。  

3

前述清华大学的研究报告,以80余件涉AI谣言案例进行统计,发现涉案所受处理当中,占比最大的是行政处罚,包括罚款和行政拘留,约占一半;而实施刑事拘留和判刑的,不足两成;其余则是封禁账号、信息清理、批评教育等。

同谣言造成的破坏相比,不少网友认为,惩处造谣的力度还不够刚硬。只有进一步完善法律法规,实施更强有力的惩处,才能发挥震慑作用,遏制AI谣言黑灰产业蔓延势头。

AI谣言传播的相关网络平台,也不能忘记平台的主体责任。加大人力、财力、技术等多方面投入,在内容甄别、谣言拦截、防止扩散等方面展现更多主动作为,坚决阻断谣言传播链条,切实肩负起社会责任。

走好群众路线,发动广大网友,激发网友参与举报AI谣言的热情,共同筑起防范AI谣言传播的铜墙铁壁。

唯有如此,AI这种新生产工具才能扬长避短,不为谣言生产、传播助纣为虐,而为社会发展进步贡献更多正向力量。(记者 鲁畅)

【责任编辑:钟培培】
相关新闻
福州新闻网版权与免责声明:

①凡本网注明“来源:福州新闻网”的所有文字、图片和视频,版权均属福州新闻网所有,任何媒体、网站或个人未经本网协议授权不得转载、链接、转贴或以其他方式复制发表。已经被本网协议授权的媒体、网站,在下载使用时必须注明“来源:福州新闻网”,违者本网将依法追究责任。

②本网未注明“来源:福州新闻网”的文/图等稿件均为转载稿,本网转载出于传递更多信息之目的,并不意味着赞同其观点或证实其内容的真实性。如其他媒体、网站或个人从本网下载使用,必须保留本网注明的“来源”,并自负版权等法律责任。如擅自篡改为“来源:福州新闻网”,本网将依法追究责任。如对文章内容有疑议,请及时与我们联系。

③ 如本网转载涉及版权等问题,请作者在两周内速来电或来函与福州新闻网联系。

日新闻排行榜周新闻排行榜月新闻排行榜
飞阅福州·视频|航拍滨海新城
飞阅福州·视频|航拍滨海新城
飞阅福州·视频|航拍罗源湾
飞阅福州·视频|航拍罗源湾
《黑神话:悟空》撞脸福州这个景区!
《黑神话:悟空》撞脸福州这个景区!
长乐机场旅客吞吐量提前突破千万人次
长乐机场旅客吞吐量提前突破千万人次
福州房产频道
房屋养老金成业主新“负担”?业内:不需要个人再出资
房屋养老金成业主新“负担”?业内:不需要个人再出资
专题推荐
2024年中国网络文明大会
第十二届海峡青年节之“情系两岸”海峡两岸好文章青少年征文活动
“有福之州 向海而兴”2024年短视频大赛
第十二届海峡青年节