点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:面对“AI说谎”,要走出AI依赖更要全面治理
首页> 法治频道> 法眼观察 > 正文

面对“AI说谎”,要走出AI依赖更要全面治理

来源:工人日报2025-01-07 09:47

  “自2025年起,宁波市将免费乘坐公交车的年龄从70周岁降低至65周岁……”记者使用三款人工智能软件询问“宁波公交年满65岁优惠政策”这一问题,得到的三个回答中仅有一个正确,而上述答案则是假消息。(见1月5日《宁波晚报》)

  生成式AI技术让文本、图片、视频等创作变得轻而易举,然而,AI创作出的作品也存在良莠不齐、低级错误频出等情况,甚至会产生“AI幻觉”,输出大量假消息、内容垃圾。上述关于“宁波公交车年满65岁优惠政策”的“AI说谎”事件,就是典型。现实中,一些AI软件搜索微信公众号、短视频平台中的内容后再将其汇总整理,作为答案交给用户。这些源头信息并非出自权威渠道,其中一些真实度、可信度偏低,而AI软件缺乏辨识信息真伪的能力,其提供的答案往往成为“真实的谎言”。一些AI软件还会迎合、讨好用户,根据用户给出提示信息的变化而随时改变立场和答案,甚至编造虚假内容。

  AI内容垃圾泛滥不仅会误导用户,还可能对AI大模型的未来发展构成实质性威胁。当高质量原始数据急剧减少,AI模型为满足庞大的使用需求,会转而抓取大量数据进行训练,一旦被内容垃圾充斥的低质量数据不断增加,模型输出的数据质量也会有下降风险,进而带来“假作真时真亦假”的可怕后果。

  AI软件已不是第一次被吐槽“一本正经地胡说八道”,这种现象亟待引起警惕与重视。对用户而言,不宜过度依赖AI软件,在查询相关重要信息时,要通过权威渠道获得真实可靠答案;在获取AI生成内容后也要有进一步核实真伪的意识,谨慎扩散转发,避免触碰造谣传谣的法律红线。对AI软件开发商而言,则须持续迭代升级技术,精准筛选可靠信源,提高AI模型的逻辑推理判断、信息甄别能力。监管部门亦应及时出台规范标准,研判用户的反馈和投诉,督促AI平台、软件开发商尽快堵漏、升级,同时严惩相关违法违规行为。

  让信息的生成和获取更便捷、让技术赋能千行百业……这是人们对AI技术的美好憧憬,而动辄被其忽悠的不良体验,显然让这份美好打了折扣。但愿“AI说谎”能尽快成为过去时,让AI技术在社会生活中发挥更多正向作用。(江德斌)

[ 责编:孙满桃 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 全运会丨第十五届全运会闭幕式在深圳举行

  • 音舞诗画《家住淮河边》在蚌埠首演

独家策划

推荐阅读
2025年度“十大”科普热词从科技、文化、社会等维度,综合勾勒出2025年我国科普事业发展、科技前沿动态、科学传播与社会文化融合的整体态势和核心方向。
2025-11-21 15:11
枫清科技与麒麟软件达成战略合作,双方将围绕AI技术创新、产品研发、市场拓展等方面开展深度合作,共同推动信创产业生态的完善与发展。
2025-11-21 13:13
走进国家重要野生植物种质资源库辰山中心种子冷库,零下20摄氏度的寒气扑面而来,一排排整齐编号的收纳容器中,是进入“深度睡眠”状态的各类野生植物种子。
2025-11-21 09:53
小雪时节,容易发生感冒、皮肤干燥、关节疼痛及咳嗽等不适,大多因为寒燥外袭、津液失调。
2025-11-21 09:52
当前,关于精神疾病与心理治疗,公众还有哪些常见误解?带着这些问题,本报记者采访了北京安定医院多位专家。
2025-11-21 09:49
2023年11月,“天衍”量子计算云平台正式发布,截至目前,访问量已突破3700万次,覆盖海内外60多个国家和地区的用户,实验任务数超过270万个。
2025-11-21 09:47
20日,记者从南京大学获悉,该校沈树忠院士团队的侯金波博士等人记录了湖北省通山县一处距今约5.4亿年的埃迪卡拉纪化石宝库,并将其命名为“通山特异埋藏化石库”。
2025-11-21 09:38
完成第一阶段6G技术试验,形成超过300项关键技术储备,资本加速布局6G生态……尽管6G网络预计将在2030年开始部署,但我国6G产业布局正加速铺开,呈现政策护航、技术攻坚、资本活跃的特征。
2025-11-20 09:11
谷山梁3吉瓦/12.8吉瓦时储能电站项目建成后,每年预计可向电网输送36亿千瓦时的清洁能源电力。“独立新型储能电站放电时为发电企业,充电时视同电力用户,电网的峰谷电价价差形成利润空间,吸引企业投身于此。
2025-11-20 09:11
中国第一辆蒸汽机车就诞生在我的家乡唐山。我为之骄傲。为此,大学学习机械制造与设计专业的我,毕业后,就一头扎进轨道交通检测设备研发领域。
2025-11-20 04:25
常有人说,发动机是火箭的“心脏”。而我从事的工作是,液体火箭发动机推力燃烧系统高精密产品的生产加工,所以大家都叫我“火箭心脏钻刻师”。
2025-11-20 04:25
四川全口径外送电量已超1.9万亿千瓦时。这一规模相当于江苏、浙江、安徽三省全年用电量之和,标志着四川落实“西电东送”能源战略取得丰硕成果,
2025-11-20 04:25
大国重器又传好消息!江门中微子实验(JUNO)装置建成运行仅两个月,就取得首个物理成果——测量太阳中微子振荡参数,结果比此前实验的最好精度提升了1.5~1.8倍。
2025-11-20 04:35
为促进卫星导航定位产业有序发展,维护国家地理信息安全,我国将对卫星导航定位基准站实行统一规划、统一标准、统一监管。针对目前基准站重复建设、存在数据安全隐患等主要问题,办法规定自然资源部会同有关部门制定全国基准站建设布局规划。
2025-11-19 09:52
18日,我国首个配置冷却塔的“华龙一号”核电机组——中广核山东招远核电项目1号机组顺利完成核岛第一罐混凝土浇筑,标志着该项目一期工程建设全面启动。
2025-11-19 09:51
2020年至2024年间,全球光热发电装机年复合增长率为4.24%,我国同期增长率达11.7%,显著高于全球水平;技术装备国产化率突破95%,释放出产业加速发展的强劲信号。
2025-11-19 05:35
科技创新、科学普及是实现创新发展的两翼,科普与科技创新“同等重要”。
2025-11-19 05:55
日前,由清华大学产业发展与环境治理研究中心和自然科研智讯联合编制的《国际科技创新中心指数2025》报告正式发布。
2025-11-19 05:55
新疆的孩子们在“流动科学课”上被磁悬浮演示、机器人互动、矿物标本展示等吸引了目光;甘肃张掖的科技工作者为大伙儿演示经典科普实验“火焰掌”;上海的科学家们踏上科技节的红地毯赢得公众的掌声……这些生动场景共同勾勒出“十四五”期间我国科普事业的发展印记。
2025-11-19 05:55
如今,在学习中遇到问题可以问人工智能,写作业也可以用人工智能辅助查询信息。正如这名同学所言,生成式人工智能正改变传统的以知识积累和传递为中心的教学模式。
2025-11-18 10:28
加载更多