山西网安曝光5起AI网络谣言案例：为博流量虚构场景、仿冒名人带货等均受罚

山西集中曝光5起AI网络谣言案例近日山西网安部门集中曝光5起近期查处的利用AI技术制造传播网络谣言的典型案例。这些案例涵盖了多个不同的场景包括虚构工厂爆炸、仿冒名人直播带货、编造高速车祸、伪造演唱会现场火灾以及生成虚假车祸文章等。AI谣言的制造手法与危害在这些案例中违法者利用AI工具生成虚假文案、视频、数字人形象等。如企业员工赵某某为博流量通过AI生成“工厂爆炸”的虚假文案和视频邢某非法使用AI生成中国国民党主席郑丽文形象的数字人直播带货。这些谣言仿真度高、传播速度快、误导性强极易引发社会恐慌严重干扰正常网络秩序。违法者均受到行政处罚目前公安机关已依法对赵某某、邢某、赵某、张某某、田某某等违法者作出行政处罚。公安机关提醒利用AI生成虚假图文、音视频已成为网络谣言传播的新趋势将持续加大对此类违法行为的打击力度。编辑观点AI技术在带来便利的同时也被不法分子利用制造谣言。网络不是法外之地需加强监管提高公众对AI谣言的辨别能力。