点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:智能体加速落地重构消费场景 专家建议关键场景须保留“人在回路”
首页> 法治频道> 法治要闻 > 正文

智能体加速落地重构消费场景 专家建议关键场景须保留“人在回路”

来源:法治日报2026-03-03 09:15

  本报记者 赵晨熙

  天下武功,无坚不摧,唯快不破。2026年央视马年春晚上,当胆似铁打骨似精钢的“机械师父”们自带背景音乐出场时,立刻吸引了广大观众的目光。

  醉拳、剑舞、肘部大回环、连续三次单腿后空翻……这些人类千锤百炼才可能“神功大成”的高难度动作,机器人不仅完成得威风凛凛,还颇具中华武术的神韵,一套套丝滑又连贯的招式让观众看得酣畅淋漓。

  跳舞、演小品、盘核桃……机器人表演在今年春晚舞台上火出了圈,也向世界展示了中国智能产业发展成果。

  从“高情商”的人工智能问答到多才多艺的实体机器人,再到用户一句话便能自动完成最优筛选并下单的一站式智能网购……信息技术时代,伴随着智能体的飞速发展,那些曾经在科幻小说中才能出现的场景已逐渐变为现实。

  智能体作为新一代人工智能的重要落地形态,正在深刻重构生产、消费与服务模式,为数字经济注入新动能,其创新价值与产业潜力值得充分肯定与大力支持。在产业快速扩张、应用持续深化的同时,如何守住安全底线,使治理体系适配新的技术形态,也至关重要。

  智能体加速落地期到来

  “在我输入‘帮我订周末去威海的两天行程’的指令后,它不仅列出了刘公岛、火炬八街、那香海的详细路线,还直接在高德地图生成了导航链接,之后跳转至飞猪显示附近性价比最高的海景酒店,它甚至还提醒我‘周末威海降温,建议带防风外套’……”这是一位网友在网上分享的自己首次通过AI一站式下单的体验,用他自己的话说,这种体验超级“省心”。

  今年春节期间,很多用户都体验到了“一句话下单”的便捷。比如,用户提出想点一杯奶茶的需求后,某应用会根据用户提出的指定某品牌或口味等具体需求,迅速为用户推荐附近商家,用户选定商品后,该应用会自动选择能用的优惠,用户只需确认订单信息并完成支付即可。想要旅游的用户提出具体需求后,应用会根据需要自动完成查询机票、酒店、天气、亲子景点等工作,并调动相应的购票、住店等App,完成一站式预订与支付。

  这种一句话就能搞定过去用户需要切换多个App才能完成的舒适体验,在这个春节期间给很多消费者留下了深刻的印象。这种便捷离不开智能体的快速发展。

  2026年被视为“智能体加速落地期”,行业正在从“能对话”迈向“能做事”。一些新产品推动了跨设备、跨场景的全端协同,智能体经济、智能体电商等新业态正在形成。

  北京邮电大学网络空间安全学院副教授李朝卓指出,智能体拥有多种优势,相较于传统大模型,智能体在结构上包含感知、记忆、规划、工具调用与行为执行等多个功能模块,因此具备更强的自主性与行动能力。

  但也因此存在更为复杂的安全隐患。比如,在感知层面可能出现模型幻觉与错误理解,在规划层面可能形成偏离初衷的恶意规划,在工具调用层面则存在权限失控等风险。有专家提醒,需高度警惕智能体贸然介入终端或硬件底层权限所带来的风险,此举极易引发数据隐私、系统安全及合规性等一系列问题,应从技术架构源头强化风险防控。

  针对这些风险,李朝卓建议引入外部监督机制,强化安全设计,开发更稳健的学习算法,并提升系统的可解释性与透明度,以构建可控、可审计的智能体生态。

  记者注意到,针对智能体发展中存在的风险隐患等问题,相关部门已经在高度关注。以近年来热度很高的陪伴型人工智能产业为例,国家互联网信息办公室近日就《人工智能拟人化互动服务管理暂行办法(征求意见稿)》(以下简称征求意见稿)公开征求意见。

  征求意见稿精准构筑了确保用户数据隐私安全、把好“沉迷依赖关”、对未成年人等特殊群体予以特殊保护等多重防线,既鼓励用技术慰藉心灵,又坚定划出了隐私、伦理与安全等不可逾越的红线。

  关键节点引入用户确认

  今年春节期间,多款App推出的AI智能下单服务,让用户切实感受到电商智能体带来的便利与创新潜力,也为行业未来发展打开了更大想象空间。

  业内人士告诉记者,在“预订高性价比酒店”等场景中,用户通常基于便捷体验给出整体授权,而智能体会自动完成比价、消费参考、平台调用、优惠匹配等一整套连贯操作。

  为进一步提升透明度与安全性,更好保障用户知情权与选择权,多位专家在受访中建议,将风险识别融入智能体执行全流程,对高风险操作实行分级管理,并在关键节点引入用户确认,让“人在回路”更加制度化、可追溯、可核验,让授权更精准、更即时。

  从推动行业生态健康可持续发展出发,多位专家也建议,智能体发展应注重安全与发展双轨并行,坚持规范引导与创新激励相统一。智能体时代带来了全新的技术机遇与创新空间,在发展过程中充分尊重并衔接现有成熟的移动互联网生态,实现有序融合、协同升级,更有利于人工智能产业行稳致远,实现长期健康发展。

  协同构建责任重叠机制

  “在智能体广泛嵌入生产与交易环节的背景下,数据已成为核心竞争资源,其权利结构与配置方式直接影响市场秩序与竞争机制。”在中国人民大学法学院教授、国务院反垄断反不正当竞争委员会专家咨询组成员孟雁北看来,数据在智能体经济中占基础性地位,围绕数据获取与使用的行为规制尤为关键。

  孟雁北认为,修订后的反不正当竞争法确立的数据不正当竞争条款强调保护经营者合法持有的数据资源,并对数据获取与利用方式提出正当性要求,具有重要意义。在智能体经济语境下,应进一步明确数据处理行为的正当性边界,审慎界定何种行为构成对市场竞争秩序的扰乱。

  此外,孟雁北认为,面对智能体经济带来的新型风险与结构性变化,行政监管应坚持法治化路径,可通过“小切口”立法与执法实践,结合具体商业场景逐步完善规则体系,在风险可控的前提下实现创新发展与竞争秩序的动态平衡。

  北京交通大学法学院副教授、数据法学研究中心主任付新华对智能体产业发展中的责任归属问题颇为关注。付新华认为,在现行法律条件下难以赋予人工智能独立主体资格,也不能简单将智能体等同于用户的代理人。传统代理关系以明确授权与可识别意思表示为前提,而智能体往往在接收模糊指令后,通过上下文推理形成行动决策,其运行机制具有“黑箱”特征,结果亦有不可预见性,难以符合民法典关于代理构成要件的规范要求。

  基于此,付新华提出,智能体应被理解为介于工具与主体之间的中间构造,单一归责模式不足以回应风险分配需求,应通过多主体协同治理形成责任重叠机制。

  围绕风险控制能力,付新华构建了四层控制架构,即目标层由用户授权启动,治理层由服务提供商承担权限管理、风控与日志留存义务,接口层通过平台规则与凭证机制规范交互边界,信赖层保障第三方基于规则形成的合理信赖。对外规则方面,可原则上推定交易成立,同时设置数字化冷静期赋予用户撤回权;对内则通过最小权限原则、关键节点干预、异常阻断与全链路追溯机制强化运营治理,并在必要时引入产品责任及用户过错责任分配规则。

[ 责编:孙满桃 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 宁夏:社火欢腾闹新春

  • 青海原子城里的“开学第一课”

独家策划

推荐阅读
太空探索技术公司下属企业xAI为该项目另一竞争方,尽管其创始人埃隆·马斯克长期表示反对开发“杀人的新工具”。
2026-03-02 13:02
国家能源局发布的数据显示:截至2025年底,我国可再生能源总装机达到23.4亿千瓦。
2026-03-02 09:57
多国正将AI、物联网与大数据融入现有空气监测体系,追踪大气变化,预警污染风险,为人类在数字时代的每一次呼吸保驾护航。
2026-03-02 09:56
北部湾海域油田无人机系统运营项目正式落地,这是我国海上油田首次实现无人机规模化作业,为海洋能源开发与低空经济融合提供了实践范例。
2026-03-02 09:55
很多人都有过这样的疑问:AI离真正成为“人”,到底还有多远?研究人员表示:有突破,但仍有难以逾越的鸿沟,短期内无法实现“类人完整智能”。
2026-03-02 09:55
人工智能不再只会“死记硬背”了——我国科研团队最新研发出一种新型神经网络,让AI能像人类一样,从看到、听到的信息里自己提炼概念、理解含义,还能互相交流。
2026-03-02 09:53
国家统计局2月28日公布《2025年国民经济和社会发展统计公报》。
2026-02-28 17:21
人们常说“眼见为实”,但如果今天再问一个问题:照片还能算现实的记录吗?答案或许已经不像过去那么简单。
2026-02-28 10:27
国家能源局27日发布的数据显示,目前,全国已有84个绿电直连项目完成审批,新能源总装机规模3259万千瓦。
2026-02-28 10:25
“具身天工3.0”刚刚发布——首届机器人半马赛事冠军正在加紧训练,成绩有望大幅提升;朱雀三号重复使用火箭蓄势待发,计划二季度再次挑战回收复用;小米汽车超级工厂的生产线一片繁忙,累计交付量已突破60万辆……
2026-02-28 10:23
今年以来,水利部指导督促各地抢抓河湖枯水期、施工影响小的窗口期,不断推动国家水网联网、补网、强链。
2026-02-28 10:22
几十年来,关于月球早期磁场是强是弱,科学界一直争论不休。如今,英国牛津大学科学家通过分析阿波罗任务带回的样本,发现月球曾拥有极强磁场,强度甚至一度超过地球磁场。
2026-02-28 10:19
发现分数量子反常霍尔效应和里德堡莫尔激子态,解决超导量子计算难题,攻克国产无液氦稀释制冷机和极高场全超导磁体等关键实验技术……
2026-02-27 09:39
2026年伊始,从美国拉斯维加斯消费电子展(CES)到中国春晚,中国自主研发的人形机器人频频“破圈”,多家中国企业的产品和应用不仅在海外业界引发热议,更是在全球社交媒体平台和国际媒体不断“刷屏”。
2026-02-27 09:36
中国人的“果盘子”里,苹果占据着举足轻重的地位。产业端加速向“数管+机器换人”转型,直播带货、跨境电商等新业态的兴起,也让中国苹果加速走向全球。
2026-02-27 09:35
随着2022年北京冬奥会的成功举办和“带动三亿人参与冰雪运动”目标的实现,中国滑雪装备产业正迎来前所未有的发展机遇。从笨重单调到轻便智能,从依赖进口到本土品牌崛起,滑雪装备的变迁不仅折射出中国冰雪运动的普及,更勾勒出一个新兴消费市场的崛起轨迹。
2026-02-27 09:32
记者从西北大学获悉,该校生命科学学院灵长类行为与进化发育研究团队的研究,揭示了亚洲叶猴物种表型的演化之谜。
2026-02-27 09:30
中国科学院近代物理研究所核结构研究团队与合作者通过高精度实验,明确了一种钼同位素释放其储存能量的关键机制,在原子核能量可控释放研究领域取得重要进展。
2026-02-26 09:46
电感器如同现代电子设备的“心脏”,让电流有序流动、设备稳定工作。
2026-02-26 09:35
“AI保姆”“智能教育助手”等产品,正以前所未有的速度和深度涌入未成年人的世界。不少家长感叹,这位无所不能、无时不在的“数字家教”成了解放自己的好帮手。
2026-02-26 13:44
加载更多