点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:AI洗稿生产假新闻博流量,警惕AI工具成为造谣者的 “温床”
首页> 法治频道 > 正文

AI洗稿生产假新闻博流量,警惕AI工具成为造谣者的 “温床”

来源:央视网2025-01-22 15:31

  2024年10月,一则标题为“大妈摆摊卖水果被罚16万,监管局回应不交就罚145万”的文章在网络上广为流传,引发众多网民关注和议论。经调查,这篇文章是一家公司AI炮制出来的,它的背后,隐藏着怎样一个产业链?

  先寻找高热度文章 再用AI仿写洗稿

  仔细查阅这篇文章可以发现,除了博眼球的标题,文章内容也非常具体,声称“在山东济南,65岁吴大娘为给儿子攒钱结婚,摆摊卖水果,却因为没有执照被市场监管局执法人员要求罚款,如果拒绝配合还要提升赔款数额至145万”。

  如此耸人听闻的描述引起了网友的关注。

  经民警查明,当地根本没有发生过这一事件。济南市场监管局随即发布了辟谣声明,并将相关证据提交给了警方。

  这则虚假信息出自湖南长沙的一家传媒公司,随后济南警方与长沙警方联合办案,发现这篇引发热议的文章,居然是该传媒公司通过AI工具生成的。

  聚焦虚假纠纷 制造对立情绪引流获利

  警方调查发现,湖南的这家传媒公司日常发布的文章主要聚焦虚假的社会矛盾纠纷,而之所以选择这样的题材,是因为他们发现,矛盾冲突越激烈的文章,阅读量就越高,也更容易让自己的账号盈利。

  在这家公司的运营流程手册上可见,法律类文章要能引起公愤,比如农民被罚、执法部门执法不当,开出天价罚款、政府霸占农民土地不还等等,总之他们的宗旨就是:用户看完感到愤怒的,就是一篇合格的文章。

  提炼关键词生成假信息 再人工修改细节

  不仅原始网络文章不去核实真伪,该公司还利用AI技术把未经核实的信息直接转到软件上,通过AI提炼文章的核心内容,将时间、人物、地点等信息作为关键词再提问给AI,由AI生成一篇核心意思几乎一样、但具体内容又完全不同的虚假信息,最后再由人工夸大部分细节,增加能引起观众情绪的内容,一篇能够煽动观众情绪的虚假文章就出现了。

  在山东济南市场监管局发布辟谣后,该账号迅速删除了这篇虚假文章。但文章造成的恶劣影响已不可挽回。

  依据《中华人民共和国治安管理处罚法》,公安机关对代运营该账号的公司法定代表人李某,以及编写该文章的员工彭某,分别处以行政拘留3日的处罚。

  同款假信息除地点人物不同 内容基本一致

  在多个平台输入“摆摊”“罚款”等关键词,多条各地“小摊贩被相关监管部门天价罚款”的虚假文章仍然存在。

  这些文章都是以博眼球的罚款金额当作标题,内容多为小摊贩摆摊卖草莓、香蕉、烟叶等被罚款,文章除了地点、人物不同,其余的内容基本一致。

  文章耸人听闻还有配图 调查后发现是谣言

  利用AI技术,对他人发布的文章、信息进行抄袭、改写、删减、拼凑,甚至直接编造,变成伪原创内容,这种行为被称为“洗稿”。

  2024年4月,一条内容为“上海某地惊现“骨灰房””的文章发布在网络平台上。文章除了耸人听闻的文字,还配有相关图片,引发网友的广泛关注和讨论。

  不过,警方调查核实后发现,这篇文章所讲的内容完全是不切实际的谣言,随即立案开展调查。很快,警方找到了这篇文章的发布者王某。

  兼职群里发布信息 教学员“洗稿”牟利

  据发帖人王某说,一个月前,她加入了一个兼职微信群,看到有人在群里发布信息称,可以教人在网络平台上注册账户,并发帖挣钱。

  王某看到后立即回应了对方,表示想要参加学习,随后便根据对方的指引注册了某网络平台账号。对方在传授王某一些自媒体的学习方法后,表示会每天向王某账户的草稿箱里发送已经写好的文章,第二天再通过王某的手机将这些文字发布,只要文章有浏览量王某就能赚取佣金。

  谣言稿件分发给学员 再由学员发布

  据王某说,开始的时候,她面对账号内存入的信息还会浏览一下内容,后来便逐渐不再对存入的文章内容进行关注。她每天会发布三四十条信息,而那条“上海某地惊现“骨灰房””的不实信息正是对方发给她的。

  依据王某提供的线索,警方展开调查,一举抓获了为王某提供谣言文章牟利的犯罪团伙成员徐某、罗某、阚某三人。据徐某等人交代,这条谣言并不是他们人工编写,而是利用购买来的软件自动“洗稿”生成完成的。

  “洗稿”后与原文查重率不超过25%

  经查,从2024年1月开始,徐某、罗某等人在网络上以传授兼职挣钱、薅羊毛、捡漏等为由头,吸引招揽学员实名注册网络平台账号。

  徐某等人从网络中截取关注度高的热点文章上传到购买来的一款AI软件,将这些热点文章重新“洗稿”生成一篇新的伪原创文章。

  据了解,经过徐某等人“洗稿”后的文章与原文查重率不超过25%,这也是为了满足其发布平台的审核要求。

  伪原创文章自动分发 学员点击发布即可

  据徐某等人交代,这款软件会将生成后的伪原创文章,自动分发到学员的网络平台账户草稿箱内,学员点击发布即可。根据浏览量的不同,平台会给文章上传者一定的奖励,徐某团伙通过收取一定比例的佣金,或者收取账户草稿箱存稿费,实现牟利。

  而这些通过“洗稿”生成的文章,如“三星堆遗址挖出航母、核潜艇”“英语退出高考”等均为不实信息,而这些明显虚假的文章就有近千条。

  有偿发布虚假信息 掌控1100多个账号

  经查,徐某等人掌握和控制的可以供发布洗稿后文章、信息的账号,最多的时候有1100多个,共计非法获利人民币5万余元。

  检察机关以非法经营罪对三人提起公诉

  检察机关认为,徐某、罗某、阚某三人结伙,违反国家规定,以营利为目的,编撰虚假信息,通过网络有偿提供发布,扰乱市场秩序,情节严重。

  2024年12月,上海市宝山区人民检察院以非法经营罪对徐某等三人提起公诉。

  检察官提醒,网民、自媒体从业者,应遵守法律法规和职业道德规范,尊重原创作品和知识产权,同时增强法律意识和自律意识,避免“洗稿”发布虚假信息等违法行为的发生。同时,相关软件生产者和网络平台更应切实负起监管、审核职责。

[ 责编:刁慈 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 清明假期首日 全社会跨区域人员流动量预计约2.96亿人次

  • 海棠花开五大道

独家策划

推荐阅读
征求意见稿提出,任何组织和个人提供、使用数字虚拟人服务,不得以丑化、污损等形式侵害他人人格权,未经特定自然人同意,不得提供足以识别特定自然人身份的数字虚拟人服务。
2026-04-03 17:59
近日,《关于加快建立长期护理保险制度的意见》(以下简称《意见》)印发。《意见》明确,用3年左右时间,基本建立适应我国基本国情的长期护理保险制度。
2026-04-03 10:07
春天,风媒花粉对过敏症患者尤其是患有慢性呼吸系统病人群的影响特别大,是过敏性哮喘的高发季节。
2026-04-03 10:04
个人信息保护法施行以来,中央网信办会同有关部门持续加大个人信息保护工作力度,查处各类违法违规处理个人信息行为,督促指导个人信息处理者不断提升合规水平,取得了积极成效。
2026-04-03 09:59
日前,福建龙岩长汀县远丰优质稻专业合作社正忙着把秧苗往田里送,并用机器进行插秧。一粒粒种子在智慧育秧工厂从孕育到出苗,直至送入农田进行机械化插秧,合作社负责人傅木清都看在眼里。
2026-04-03 09:53
据报道,在3月29日结束的世界超级摩托车锦标赛(WSBK)葡萄牙站WorldSSP组别中,我国摩托车制造商“张雪机车”在该站赛事双回合正赛中相继夺冠。说起“张雪机车”的成功,不得不提到中国的“摩托之都”重庆。
2026-04-03 09:50
在一间会议室里,记者找到了研究院副院长张金友。”  为了尽快解决这个“烧脑”的问题,这段时间,张金友和团队几乎每天井场、实验室、会议室三点一线。“如果说我们正在采的页岩油是已经蒸熟的‘米饭’,那低熟页岩油就是‘生米’,需要人工在地下为其加热,催化生成石油。
2026-04-03 09:47
历时多年攻关,刘河生带领团队不断改进脑功能区定位技术,实现快速精准绘制个体脑图,并研发出可无创干预脑区功能的设备,在帕金森等疾病治疗研究中取得重大进展。
2026-04-02 10:11
我国智能航运发展现状如何?“十五五”时期如何迈向国际先进水平?记者采访了交通运输部海事局及相关企业。
2026-04-02 10:07
科技创新是发展新质生产力的核心要素,加强原始创新和关键核心技术攻关,是抢占科技制高点、实现高水平科技自立自强的根本所在。
2026-04-02 10:04
近日,国家医保局发布《医疗保障基金使用监督管理条例实施细则》,于2026年4月1日起正式施行。
2026-04-02 10:03
国家卫健委和国家中医药局1日联合印发《关于开展基层医疗卫生机构医疗质量改善三年行动(2026—2028年)的通知》,推进基层医疗质量提升,推动实现分级诊疗“基层首诊”落地。
2026-04-02 10:01
人与自然和谐共生是中国式现代化的重要特征之一,守好碧海银滩,构建人海和谐的海洋生态环境是中国式现代化的题中应有之义。
2026-04-01 09:45
2021年长江十年禁渔实施以来,禁渔秩序总体平稳,退捕渔民生计有效保障,水生生物资源衰退趋势得到决定性扭转,长江水生生物完整性指数稳步提升,取得阶段性明显成效。
2026-04-01 09:44
“过去雷达网建设主要解决‘有没有’的问题,现在AI让这张网从‘能探测’升级为‘会思考’。”在张兴赢看来,“AI正在成为工程的‘第二大脑’。”
2026-04-01 09:43
硒是人体必需的微量矿质营养素。然而,我国约7亿人口存在硒摄入不足。
2026-04-01 09:42
强对流天气的形成是水汽条件、不稳定状态的大气层结构、地形等多种条件协同作用的结果,包括雷暴、短时强降水、大风、冰雹等天气现象,具有影响快、强度强、致灾性强的特点。
2026-04-01 09:39
3月30日,世界数据组织正式成立并落户北京,理事长由中国科学院院士谭铁牛担任。这不仅是对谭铁牛个人学术成就的认可,更是国际社会对中国数据发展和治理能力的充分肯定,是中国科学家提升全球科技治理话语权的生动缩影。
2026-03-31 10:23
教育部30日印发《校园食品安全“十必须”》《学校食堂工作人员“十不准”》,进一步筑牢校园食品安全防线,明确中小学、幼儿园食堂不得制售冷荤类食品、生食类食品、冷加工糕点,不得加工制作四季豆、鲜黄花菜、野生蘑菇、发芽土豆等高风险食品。
2026-03-31 10:22
30日19时00分,力箭二号遥一运载火箭在东风商业航天创新试验区发射升空,将搭载的新征程01卫星、轻舟初样试飞船和天视卫星01星顺利送入预定轨道,发射任务取得圆满成功。
2026-03-31 10:17
加载更多