点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:面对“AI说谎”,要走出AI依赖更要全面治理
首页> 法治频道> 法眼观察 > 正文

面对“AI说谎”,要走出AI依赖更要全面治理

来源:工人日报2025-01-07 09:47

  “自2025年起,宁波市将免费乘坐公交车的年龄从70周岁降低至65周岁……”记者使用三款人工智能软件询问“宁波公交年满65岁优惠政策”这一问题,得到的三个回答中仅有一个正确,而上述答案则是假消息。(见1月5日《宁波晚报》)

  生成式AI技术让文本、图片、视频等创作变得轻而易举,然而,AI创作出的作品也存在良莠不齐、低级错误频出等情况,甚至会产生“AI幻觉”,输出大量假消息、内容垃圾。上述关于“宁波公交车年满65岁优惠政策”的“AI说谎”事件,就是典型。现实中,一些AI软件搜索微信公众号、短视频平台中的内容后再将其汇总整理,作为答案交给用户。这些源头信息并非出自权威渠道,其中一些真实度、可信度偏低,而AI软件缺乏辨识信息真伪的能力,其提供的答案往往成为“真实的谎言”。一些AI软件还会迎合、讨好用户,根据用户给出提示信息的变化而随时改变立场和答案,甚至编造虚假内容。

  AI内容垃圾泛滥不仅会误导用户,还可能对AI大模型的未来发展构成实质性威胁。当高质量原始数据急剧减少,AI模型为满足庞大的使用需求,会转而抓取大量数据进行训练,一旦被内容垃圾充斥的低质量数据不断增加,模型输出的数据质量也会有下降风险,进而带来“假作真时真亦假”的可怕后果。

  AI软件已不是第一次被吐槽“一本正经地胡说八道”,这种现象亟待引起警惕与重视。对用户而言,不宜过度依赖AI软件,在查询相关重要信息时,要通过权威渠道获得真实可靠答案;在获取AI生成内容后也要有进一步核实真伪的意识,谨慎扩散转发,避免触碰造谣传谣的法律红线。对AI软件开发商而言,则须持续迭代升级技术,精准筛选可靠信源,提高AI模型的逻辑推理判断、信息甄别能力。监管部门亦应及时出台规范标准,研判用户的反馈和投诉,督促AI平台、软件开发商尽快堵漏、升级,同时严惩相关违法违规行为。

  让信息的生成和获取更便捷、让技术赋能千行百业……这是人们对AI技术的美好憧憬,而动辄被其忽悠的不良体验,显然让这份美好打了折扣。但愿“AI说谎”能尽快成为过去时,让AI技术在社会生活中发挥更多正向作用。(江德斌)

[ 责编:孙满桃 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 第二十七届哈尔滨冰雪大世界主塔“冰灯启梦”封顶

  • 福州地铁4号线全线贯通

独家策划

推荐阅读
加快培育壮大数据产业,以区域协同数智化发展带动数据产业集群、数字产业集群做大做强。以兼顾标准互认、质量保障和安全可信的制度体系,护航数据产品服务流通交易、变现增值。数字经济具有数据资源依赖度高、技术知识人才密集、高融合渗透性及行业覆盖面广等特点。
2025-12-11 10:16
光明日报西宁12月10日电 记者万玛加、王雯静日前从国网青海省电力公司获悉,青海电力交易中心与北京电力交易中心、吉林电力交易中心“三网”联动,共同达成跨省跨区中长期外送电力交易,交易电量自12月8日起执行至31日止,累计交易电量1876万千瓦时。
2025-12-11 10:15
2020年12月,科技部在苏州高新区等13家国家高新区启动首批试点,探索实施“创新积分制”,对企业创新能力进行量化评价,引导金融机构精准支持科技创新。联动实施“创新积分制”和科技创新专项担保计划,累计向21家银行推荐超过17万家科技型中小企业,签订贷款合同超2900亿元……
2025-12-11 10:15
2025年12月10日12时03分,中科宇航力箭一号遥十一运载火箭在东风商业航天创新试验区发射,将9颗卫星精准送入预定轨道,发射任务取得圆满成功。此次发射的卫星中,阿联酋813卫星是由上海微小卫星工程中心承研的高光谱地球观测卫星,搭载高光谱相机、全色相机及大气偏振校正仪等主载荷。
2025-12-11 10:05
12月9日,记者从中国科协获悉,中国科协生命科学学会联合体(以下简称“联合体”)发布了2025年度“中国生命科学十大进展”,6个知识创新类和4个技术创新类项目成果入选。
2025-12-11 10:02
“向精准要价值”,是一场从技术导向到需求导向的深刻转型。
2025-12-10 14:00
近十几年来,罗二仓团队聚焦采用环保工质,如氦气、氩气、氮气等绿色工质的热声斯特林技术,研发具有广阔应用前景的新一代热泵技术。
2025-12-10 09:39
中国科学院生物物理研究所徐涛院士课题组与纪伟研究员课题组研制出三维干涉定位显微镜(ROSE-3D),首次在单分子定位成像领域,实现了基于相机的纳米尺度三维各向同性分辨率。
2025-12-10 09:38
“细胞壁是质膜外具有一定硬度和弹性的细胞结构,广泛存在于植物、细菌和真菌中。随着研究逐渐深入,团队发现,在植物茎顶端干细胞区域,细胞壁的主要成分果胶呈现独特的“二元分布”模式。
2025-12-10 09:37
指令长张陆时隔两年半再度漫步太空,航天员武飞成为我国目前执行出舱任务最年轻的航天员。
2025-12-10 09:35
我国首个国家级陆相页岩油示范区——新疆吉木萨尔国家级陆相页岩油示范区9日完成年度170万吨原油生产任务,这一成果标志着国家级示范工程建设任务全面完成。
2025-12-10 09:34
一些不法商家钻监管漏洞,推出所谓“智驾神器”规避车辆安全监控,不仅严重威胁道路交通安全,更触碰了法律红线,扰乱了新能源汽车产业的健康发展秩序。
2025-12-09 10:11
一项新研究揭示了这些天体表面下可能发生的活动,为了解其多样地质特征的形成机制提供了线索。相关研究成果近日发表于《自然-天文学》。
2025-12-09 10:02
实验结果显示,将化合物注射给抑郁模型小鼠后,仅1小时便可观察到显著的抗抑郁效果,且无明显副作用。
2025-12-09 10:01
北京大学生命科学学院罗述金课题组与合作团队,通过古DNA研究发现,家猫直至唐代前后才通过丝绸之路商旅传入中国。
2025-12-09 09:58
7日,中国安全生产科学研究院与国家管网集团,在新疆哈密的国家管网集团管道断裂控制试验场,成功完成了我国首次全尺寸高压纯氢管道喷射火系列试验。
2025-12-09 09:57
基于这样的研究背景,柴秀娟团队近日研发出一种数字孪生驱动的智能温室采摘系统,能有效解决现代温室番茄生产密植环境下,机器人采摘效率低、易损伤植株的问题。团队成员郎一宁介绍:“首先,机器人搭载的滑轨式深度相机会沿温室逐行扫描,采集高精度的RGB-D数据。
2025-12-08 09:54
记者从国家数据局获悉,截至9月底,我国已建成高质量数据集总量超500PB(拍字节,计算机存储容量单位);7个数据标注基地引进和培育标注企业362家,标注从业人员达8.5万人,带动数据标注相关产值163亿元。
2025-12-08 09:53
“梦想”号大洋钻探船的母港在广州海洋地质调查局科考码头,出海执行作业任务时需要通过深中大桥。多年来,我们与150余家参研参建单位团结协作、集智创新,攻克了一个个技术难题,建成了这艘具有我国完全自主知识产权、全球领先的大洋钻探船。
2025-12-08 09:52
空中的昆虫堪称地球上最灵活的生物,能精准完成急转弯、急刹车和空中翻转。美国内华达大学里诺分校的航空航天工程师Hoang-Vu Phan指出,这款新设备标志着“微型机器人性能的巨大飞跃”。
2025-12-08 09:51
加载更多