近日，公安部网安局指出随着人工智能（AI）技术的发展，一些网民为博眼球、蹭热度利用 AI 技术编‘伪消息’、造‘假新闻’以实现流量变现的现象引发关注。
例如，2024 年 6 月，网络上出现一条‘广东省五华县华阳镇一 70 多岁老人被殴打致昏迷，其孙子为此跳河自杀，打人者一审被判九年十个月’的短视频，经调查，该视频图文内容系移花接木、肆意编造的网络谣言，造谣人员任某称此视频全由 AI 合成，目前公安机关已依法对任某追究法律责任。
2024 年 1 月，广西东兴市骆某某为博取流量，使用 AI 软件自动编辑抗洪、救灾视频，捏造新疆乌什县发生地震的虚假视频信息并在互联网平台大量传播，公安机关已依法对骆某某追究法律责任。
2024 年 5 月，河南一网民在某平台发布《一场惊心动魄的‘钞票大战’巴中市警民对峙引发轰动谁将成为胜利者》的谣言文章，后经查实该涉谣文章由 AI 系统生成并发布，相关言论及照片均为不实信息，公安机关已依法对造谣人员追究法律责任。
AI 网络谣言具有定制化、门槛低、识别难、破坏大等特征。定制化指 AI 能利用机器学习方法从数据中学习生成特征与表达风格，只需输入关键词，便可在网络上抓取素材生成定制化信息；门槛低体现在利用 AI 造谣者只需输入关键词即可‘一键生成’文章、图片；识别难是因为 AI 生成的虚假信息形式逼真，新闻要素齐全、内容完整，甚至包含图像和视频，公众难以辨别真伪；破坏大是由于 AI 工具能制造逼真的图片、音视频，颠覆‘有图有真相’的认知，蛊惑性强，能快速传播，易引发社会恐慌，扰乱社会公共秩序。
原创文章，作者：睿鸿在线，如若转载，请注明出处：https://mip.orihonor.com/2024/11/15/8946.shtml
