当网络谣言遇上AI……
“广州限制外卖配送”“河南信阳市中心体育馆惊险崩塌”“甘肃红十字会收取160万元暖手袋管理费”……这些所谓“有图有视有真相”的重磅“消息”,曾在网上广泛传播,引起大量网民关注。
令人大跌眼镜的是,警方事后的调查发现,这些耸人听闻的“消息”,是不法分子使用AI制作的网络谣言!尽管警方紧急辟谣、澄清事实,可谣言已经领跑真相一大截,让很多人信以为真,给当事方带来极大困扰。
AI加持下的互联网,给人们生活场景的丰富、生产效率的提升带来了全新机遇。但当谣言披上AI的外衣时,谣言和真相更难辨认,造谣的门槛和成本极大降低,传播的效率和产生的影响成倍增加,成为亟需治理的一道网络新课题。
1
近日,多地警方通报了一批利用AI造谣的典型案例。
去年12月,甘肃积石山发生6.2级地震,张某某利用AI软件,编造了“甘肃红十字会采购暖手袋,收取160万元管理费”“甘肃执法队扣押救灾货车”等不实信息,并通过多个网络平台进行发布,对当地抗震救灾工作造成严重影响。
今年2月,杜某利用AI技术,编造了“某著名女星命运多舛、含恨离世”的短视频,上传网络后引起广泛传播,严重影响了当事人的生活和声誉。
一份近期审结案件的材料显示,不法分子利用AI技术,以热点新闻和随机网络视频为素材,短时间内就制作出约1万条虚假视频新闻,其中发布出去的20多条视频,涉及多个省份,浏览量超过百万。
清华大学新闻与传播学院新媒体研究中心今年4月发布的一份报告显示,经济领域已成AI谣言的高发地,餐饮外卖、快递配送等民生行业是AI谣言的重灾区。
2
当网络谣言遇上AI,后者低成本、高效率、操作简单的特点,使谣言视频的批量化生产成为可能。AI谣言的视频形态,也契合了部分网民“有图有视频就有真相”的认知,使得AI谣言常常一经上网,就能迅速传播。
从查获的典型案例来看,“吸睛引流”“变现牟利”等,是不法分子屡屡提及的高频词。
自媒体时代,“注意力经济”为很多人提供了发家致富的机遇。但一些人信奉“流量至上”,为了流量,什么技术都敢用、什么手段都敢使,甚至把冲撞道德底线、践踏法律红线当作“流量密码”,猎奇、八卦、低俗、编造假新闻等等,都成为追求流量的工具。
AI造谣更衍生出一条条黑灰产业链。
去年国庆假期,“4岁女童海边走失”发生后,上海警方发现十余个散布“走失女童曾被丢弃”等虚假信息的自媒体账号,并在进一步侦查中打掉一个“水军”团伙。该团伙借助AI技术,批量制造不实帖文,大量转发炒作,非法获利4万余元。
3
前述清华大学的研究报告,以80余件涉AI谣言案例进行统计,发现涉案所受处理当中,占比最大的是行政处罚,包括罚款和行政拘留,约占一半;而实施刑事拘留和判刑的,不足两成;其余则是封禁账号、信息清理、批评教育等。
同谣言造成的破坏相比,不少网友认为,惩处造谣的力度还不够刚硬。只有进一步完善法律法规,实施更强有力的惩处,才能发挥震慑作用,遏制AI谣言黑灰产业蔓延势头。
AI谣言传播的相关网络平台,也不能忘记平台的主体责任。加大人力、财力、技术等多方面投入,在内容甄别、谣言拦截、防止扩散等方面展现更多主动作为,坚决阻断谣言传播链条,切实肩负起社会责任。
走好群众路线,发动广大网友,激发网友参与举报AI谣言的热情,共同筑起防范AI谣言传播的铜墙铁壁。
唯有如此,AI这种新生产工具才能扬长避短,不为谣言生产、传播助纣为虐,而为社会发展进步贡献更多正向力量。(记者 鲁畅)
- 博主称同学被警察拉进派出所?假的!(2024-05-27 16:29:07)
- 福州市妇联:用AI推动女性更好就业创业(2024-05-27 09:27:57)
- 这场“AI+”粉丝见面会人气爆棚(2024-05-27 09:27:57)
- 进入高发季!福州人注意!(2024-05-27 08:37:12)
- 学习心肺复苏、检测精神状态……“数智”医养产品人气爆棚(2024-05-27 08:26:14)
- 第一届“长城杯”信息安全铁人三项赛决赛举行(2024-05-27 07:40:16)
- 超级“交换机”亮相乌龙江畔(2024-05-26 08:33:27)
- 数字峰会多场分论坛“言值”高:大咖顶流云集 探寻数字强国密码(2024-05-26 08:07:41)
- 数字峰会开幕式与主论坛精彩观点采撷(2024-05-25 11:40:01)
- 数字赋能打造智慧工地 长乐机场T2航站楼主体提前封顶(2024-05-25 11:11:23)
①凡本网注明“来源:福州新闻网”的所有文字、图片和视频,版权均属福州新闻网所有,任何媒体、网站或个人未经本网协议授权不得转载、链接、转贴或以其他方式复制发表。已经被本网协议授权的媒体、网站,在下载使用时必须注明“来源:福州新闻网”,违者本网将依法追究责任。
②本网未注明“来源:福州新闻网”的文/图等稿件均为转载稿,本网转载出于传递更多信息之目的,并不意味着赞同其观点或证实其内容的真实性。如其他媒体、网站或个人从本网下载使用,必须保留本网注明的“来源”,并自负版权等法律责任。如擅自篡改为“来源:福州新闻网”,本网将依法追究责任。如对文章内容有疑议,请及时与我们联系。
③ 如本网转载涉及版权等问题,请作者在两周内速来电或来函与福州新闻网联系。