点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:智能体加速落地重构消费场景 专家建议关键场景须保留“人在回路”
首页> 法治频道> 法治要闻 > 正文

智能体加速落地重构消费场景 专家建议关键场景须保留“人在回路”

来源:法治日报2026-03-03 09:15

  本报记者 赵晨熙

  天下武功,无坚不摧,唯快不破。2026年央视马年春晚上,当胆似铁打骨似精钢的“机械师父”们自带背景音乐出场时,立刻吸引了广大观众的目光。

  醉拳、剑舞、肘部大回环、连续三次单腿后空翻……这些人类千锤百炼才可能“神功大成”的高难度动作,机器人不仅完成得威风凛凛,还颇具中华武术的神韵,一套套丝滑又连贯的招式让观众看得酣畅淋漓。

  跳舞、演小品、盘核桃……机器人表演在今年春晚舞台上火出了圈,也向世界展示了中国智能产业发展成果。

  从“高情商”的人工智能问答到多才多艺的实体机器人,再到用户一句话便能自动完成最优筛选并下单的一站式智能网购……信息技术时代,伴随着智能体的飞速发展,那些曾经在科幻小说中才能出现的场景已逐渐变为现实。

  智能体作为新一代人工智能的重要落地形态,正在深刻重构生产、消费与服务模式,为数字经济注入新动能,其创新价值与产业潜力值得充分肯定与大力支持。在产业快速扩张、应用持续深化的同时,如何守住安全底线,使治理体系适配新的技术形态,也至关重要。

  智能体加速落地期到来

  “在我输入‘帮我订周末去威海的两天行程’的指令后,它不仅列出了刘公岛、火炬八街、那香海的详细路线,还直接在高德地图生成了导航链接,之后跳转至飞猪显示附近性价比最高的海景酒店,它甚至还提醒我‘周末威海降温,建议带防风外套’……”这是一位网友在网上分享的自己首次通过AI一站式下单的体验,用他自己的话说,这种体验超级“省心”。

  今年春节期间,很多用户都体验到了“一句话下单”的便捷。比如,用户提出想点一杯奶茶的需求后,某应用会根据用户提出的指定某品牌或口味等具体需求,迅速为用户推荐附近商家,用户选定商品后,该应用会自动选择能用的优惠,用户只需确认订单信息并完成支付即可。想要旅游的用户提出具体需求后,应用会根据需要自动完成查询机票、酒店、天气、亲子景点等工作,并调动相应的购票、住店等App,完成一站式预订与支付。

  这种一句话就能搞定过去用户需要切换多个App才能完成的舒适体验,在这个春节期间给很多消费者留下了深刻的印象。这种便捷离不开智能体的快速发展。

  2026年被视为“智能体加速落地期”,行业正在从“能对话”迈向“能做事”。一些新产品推动了跨设备、跨场景的全端协同,智能体经济、智能体电商等新业态正在形成。

  北京邮电大学网络空间安全学院副教授李朝卓指出,智能体拥有多种优势,相较于传统大模型,智能体在结构上包含感知、记忆、规划、工具调用与行为执行等多个功能模块,因此具备更强的自主性与行动能力。

  但也因此存在更为复杂的安全隐患。比如,在感知层面可能出现模型幻觉与错误理解,在规划层面可能形成偏离初衷的恶意规划,在工具调用层面则存在权限失控等风险。有专家提醒,需高度警惕智能体贸然介入终端或硬件底层权限所带来的风险,此举极易引发数据隐私、系统安全及合规性等一系列问题,应从技术架构源头强化风险防控。

  针对这些风险,李朝卓建议引入外部监督机制,强化安全设计,开发更稳健的学习算法,并提升系统的可解释性与透明度,以构建可控、可审计的智能体生态。

  记者注意到,针对智能体发展中存在的风险隐患等问题,相关部门已经在高度关注。以近年来热度很高的陪伴型人工智能产业为例,国家互联网信息办公室近日就《人工智能拟人化互动服务管理暂行办法(征求意见稿)》(以下简称征求意见稿)公开征求意见。

  征求意见稿精准构筑了确保用户数据隐私安全、把好“沉迷依赖关”、对未成年人等特殊群体予以特殊保护等多重防线,既鼓励用技术慰藉心灵,又坚定划出了隐私、伦理与安全等不可逾越的红线。

  关键节点引入用户确认

  今年春节期间,多款App推出的AI智能下单服务,让用户切实感受到电商智能体带来的便利与创新潜力,也为行业未来发展打开了更大想象空间。

  业内人士告诉记者,在“预订高性价比酒店”等场景中,用户通常基于便捷体验给出整体授权,而智能体会自动完成比价、消费参考、平台调用、优惠匹配等一整套连贯操作。

  为进一步提升透明度与安全性,更好保障用户知情权与选择权,多位专家在受访中建议,将风险识别融入智能体执行全流程,对高风险操作实行分级管理,并在关键节点引入用户确认,让“人在回路”更加制度化、可追溯、可核验,让授权更精准、更即时。

  从推动行业生态健康可持续发展出发,多位专家也建议,智能体发展应注重安全与发展双轨并行,坚持规范引导与创新激励相统一。智能体时代带来了全新的技术机遇与创新空间,在发展过程中充分尊重并衔接现有成熟的移动互联网生态,实现有序融合、协同升级,更有利于人工智能产业行稳致远,实现长期健康发展。

  协同构建责任重叠机制

  “在智能体广泛嵌入生产与交易环节的背景下,数据已成为核心竞争资源,其权利结构与配置方式直接影响市场秩序与竞争机制。”在中国人民大学法学院教授、国务院反垄断反不正当竞争委员会专家咨询组成员孟雁北看来,数据在智能体经济中占基础性地位,围绕数据获取与使用的行为规制尤为关键。

  孟雁北认为,修订后的反不正当竞争法确立的数据不正当竞争条款强调保护经营者合法持有的数据资源,并对数据获取与利用方式提出正当性要求,具有重要意义。在智能体经济语境下,应进一步明确数据处理行为的正当性边界,审慎界定何种行为构成对市场竞争秩序的扰乱。

  此外,孟雁北认为,面对智能体经济带来的新型风险与结构性变化,行政监管应坚持法治化路径,可通过“小切口”立法与执法实践,结合具体商业场景逐步完善规则体系,在风险可控的前提下实现创新发展与竞争秩序的动态平衡。

  北京交通大学法学院副教授、数据法学研究中心主任付新华对智能体产业发展中的责任归属问题颇为关注。付新华认为,在现行法律条件下难以赋予人工智能独立主体资格,也不能简单将智能体等同于用户的代理人。传统代理关系以明确授权与可识别意思表示为前提,而智能体往往在接收模糊指令后,通过上下文推理形成行动决策,其运行机制具有“黑箱”特征,结果亦有不可预见性,难以符合民法典关于代理构成要件的规范要求。

  基于此,付新华提出,智能体应被理解为介于工具与主体之间的中间构造,单一归责模式不足以回应风险分配需求,应通过多主体协同治理形成责任重叠机制。

  围绕风险控制能力,付新华构建了四层控制架构,即目标层由用户授权启动,治理层由服务提供商承担权限管理、风控与日志留存义务,接口层通过平台规则与凭证机制规范交互边界,信赖层保障第三方基于规则形成的合理信赖。对外规则方面,可原则上推定交易成立,同时设置数字化冷静期赋予用户撤回权;对内则通过最小权限原则、关键节点干预、异常阻断与全链路追溯机制强化运营治理,并在必要时引入产品责任及用户过错责任分配规则。

[ 责编:孙满桃 ]
阅读剩余全文()

相关阅读

您此时的心情

光明云投
新闻表情排行 日/周
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 习近平会见泰国总理阿努廷

  • 习近平会见新加坡总理黄循财

独家策划

推荐阅读
在这一亚太盛会上,中国“十五五”规划被视作“中国面向全球工商界发出的合作邀约”。这份时代邀约,中国企业正在从“开放、创新、合作”三个维度作答,为变乱交织的世界注入前行力量。
2026-11-20 09:46
国家能源局19日发布的《中国虚拟电厂发展报告(2026)》显示,我国虚拟电厂规模快速增长。截至2026年6月底,全国已建成并投运的虚拟电厂数量为592个,同比增长78.9%;最大调节能力达到2042.8万千瓦,同比增长62.7%。
2026-11-20 05:35
2026中国5G+工业互联网大会19日在湖北省武汉市开幕。记者从会上获悉,我国工业互联网体系化发展成效显著,走在全球前列。
2026-11-20 05:35
今年是二十四节气申遗成功10周年——2016年11月,在联合国教科文组织保护非物质文化遗产政府间委员会第十一届常会上,“二十四节气——中国人通过观察太阳周年运动而形成的时间知识体系及其实践”被列入人类非物质文化遗产代表作名录。
2026-11-20 05:35
近日,内蒙古鄂尔多斯伊金霍洛旗国有林场与数百公里外的锡林浩特巴彦宝拉格苏木人民政府完成了一宗22吨的林业碳票交易。
2026-11-20 05:35
前不久,山东科技大学安全与环境工程学院教授刘华清团队研发的“控释型硫基滤料新技术”成功实现转化,为一家环保公司解了燃眉之急。
2026-11-19 05:10
日前,第140届中国进出口商品交易会(以下简称“广交会”)闭幕,共吸引来自219个国家和地区的35.2万名境外采购商到会,到会人数再创历史新高。
2026-11-19 05:25
国务院学位委员会办公室近日印发《关于做好专业学位研究生以实践成果申请学位工作的意见》,在前期工程硕博士用实践成果申请学位基础上,推动5个专业学位类别试点先行。
2026-11-19 05:25
在今年西班牙巴塞罗那市议会推出的第五期“创新出行实验室(BILM)”挑战赛上,谁能拿出基于人工智能调控交通信号灯的最佳方案就赢得10万欧元,奖金用于在巴塞罗那路口开展实地测试。
2026-11-19 05:25
地磁场像一张看不见的导航网。趋磁细菌是里面的“活罗盘”:它们身体里能长出一串纳米级小磁铁,顺着地磁场方向游动,在氧气不多不少的水层里找位置。
2026-11-19 05:25
习近平总书记在2026世界人工智能大会暨人工智能全球治理高级别会议开幕式上指出:“人类不得不直面时代之问:当机器开始思考,人类如何与之相处?当算法参与决策,安全如何保障?当技术挑战伦理,治理如何跟上?当鸿沟不断拉大,普惠如何实现?
2026-11-19 05:10
据中国载人航天工程办公室消息,17日,神舟二十四号载人飞船与长征二号F遥二十四运载火箭组合体已转运至发射区,计划近日择机实施发射。
2026-11-18 05:10
工业和信息化部、市场监管总局近日联合印发《以标准提升引领轻工业优化升级实施方案》。
2026-11-18 05:25
日前,国家知识产权局印发《地理标志保护和运用“十五五”规划》,明确了“十五五”时期地理标志工作的目标指标、重点任务和专项工程。
2026-11-18 05:10
11月17日,《关于深入推进再生资源回收体系建设 促进回收行业高质量发展的意见》公开发布。意见明确,到2030年初步建立起回收网络健全完善、居民交投便捷顺畅、分拣环节高效先进、末端处理绿色规范的再生资源回收体系。
2026-11-18 05:10
目前我国输送距离最长、管径最大、设计压力最高、输送规模最大的二氧化碳长输管道——中国石油吉林石化—吉林油田二氧化碳管道工程16日建成投运,标志着我国二氧化碳规模化输送和利用取得新进展。
2026-11-18 05:25
要让一台机器人真正能干活,到底靠什么?答案是,看得见、想得出、做得到。
2026-11-17 09:33
芯片越强、集群越大、部署越密,出故障的概率和代价也在同步飙升。
2026-11-17 09:29
胜利油田济阳页岩油民丰8号台新型井工厂首批12口井平均钻井周期13.83天,其中丰页1-8-B13HF井钻井周期11.68天,刷新国内超6000米井深陆相页岩油最短钻井周期纪录。
2026-11-17 05:15
红线划得清楚,但现实难题也依然存在:当作业能让AI助写,心事能向AI倾诉,孩子还会不会自己动脑、还愿不愿意跟真人打交道?如何帮助孩子减少依赖,合理使用AI?AI时代的青少年身心健康该如何守护?记者多方采访求解。
2026-11-17 05:15
加载更多