点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:【法治护我心】眼见真的为“实”?NO!探寻深度合成乱象破解之道
首页> 法治频道> 原创策划 > 正文

【法治护我心】眼见真的为“实”?NO!探寻深度合成乱象破解之道

来源:光明网2023-01-13 09:00

  【法治护我心——《互联网信息服务深度合成管理规定》系列解读】

  光明网记者 李飞 孔繁鑫

  近年来,不少“AI换脸”“魔法变声”类应用走红网络;影像修复让影视爱好者得以重温高清的老电影;电商直播、影视动画、文化传媒等日常生活场景中,虚拟数字人已经广泛应用……深度合成类技术竟这般“神奇”。

  作为人工智能领域的新型“黑科技”,得益于人工智能技术的不断发展与开放,深度合成技术以其较低的应用门槛、较强的娱乐属性、丰富的应用场景,愈加受到广泛关注。然而,利用非法盗取的音视频和照片,通过变声、换脸等技术伪装“瞒天过海”,实施诈骗或侵犯他人肖像权、名誉权的事件,却也时有发生。

  1月10日,针对深度合成服务治理的专门性部门规章《互联网信息服务深度合成管理规定》(以下简称《规定》)施行,网民普遍“点赞”,对其将形成的治理、规范效用表达支持。

  难辨真假背后技术乱象门槛愈低

  以假乱真,是深度合成技术的显著特点之一。“深度合成服务在互联网社交媒体中广泛应用,丰富了互联网信息内容生态,推动了互联网相关产业发展。”中国科学院信息工程研究所所长孟丹认为,该技术在为人民生活带来了便利便捷和多样化体验的同时,也可能被恶意利用,虚假信息内容或将带来政策干扰、谣言泛滥、低俗内容肆意传播等影响国家安全、社会稳定的风险问题。

【法治护我心】眼见真的为“实”?NO!探寻深度合成乱象破解之道

图源 《中国教育报》

  中国互联网络信息中心最新数据显示,截至2022年6月,我国有10.51亿网民,互联网普及率达74.4%。同时,以互联网、大数据、人工智能为代表的数字领域,逐渐成为我国创新发展活跃、社会辐射广泛的新兴领域。随着各类商业化产品普及,深度合成的信息内容也在网络上大量涌现,越来越多的社会公众接触到了深度合成技术。

  清华大学研究生院院长周杰认为,深度合成技术的使用门槛愈发降低,呈现出“平民化”的趋势,普通人也可以利用简单方便的软件工具制作合成内容。

  “AI配音骗了多少中老年人”“顶着明星的脸卖货”……正如部分网民所提到的,在互联网技术日益发达的时代,人们对于看到的画面、听到的声音和读到的文本,已难以如往常一般充分信任。通过人工智能和大数据算法合成的虚拟数据,具有了高度仿真的视觉、听觉等效果,使人们难辨真假。

  虚假信息一直是互联网治理的痛点与难点,深度合成技术的广泛应用则对虚假信息的治理提出了更高的要求。

  既要直面技术风险,又要做好源头整治

  如今,深度合成技术已展现其强大的能力,在各个领域的加速应用逐渐成为趋势。中国政法大学教授张凌寒认为,《规定》将深度合成为代表的生成合成类算法作为算法安全治理体系细化的重要一步,一方面是由于深度合成属于高敏感性的与互联网信息内容安全息息相关的技术应用,另一方面深度合成技术将成为网络虚拟空间与现实物理世界虚实结合、融为一体的关键技术应用,未来存在巨大发展空间。

  “在相关技术研究发展的同时,也须直面技术带来的风险,保证算法和数据的安全性、可靠性,最大程度做到技术进步的趋利避害。”周杰这样说。

  那么,对算法和数据的正向引导从何下手?有网民提出,“把平台管牢,就解决了很大一部分深度伪造问题”。对此,中国信息通信研究院云计算与大数据研究所所长何宝宏表示,《规定》构建了围绕深度合成“技术支持者”和“服务提供者”的责任框架。其中,技术支持者应从源头深化技术治理,加强数据和技术管理,同时参照相关规定履行算法备案等手续。服务提供者应全方位落实信息安全主体责任,强化针对服务、用户、数据、技术以及内容等方面的管理措施,实施安全可控的技术保障措施。

  “AI换脸、AI绘画等常用技术及其生产内容,今后还能使用吗?”有网友在社交平台上这样提问。中国科学院自动化研究所研究员陶建华介绍,《规定》从两个方面明确了深度合成内容标识管理的具体要求:一是要添加不影响使用的标识,保障深度合成信息内容可识别溯源;二是要使用显著方式,对生成或显著改变信息内容的深度合成信息内容进行标识,保障公众知情权。

  “虚拟主播”如何管理?中国人民大学未来法治研究院执行院长张吉豫提到,《规定》将“数字人物”纳入深度合成管理,这是对深度合成技术的不断发展运用中可能面临的风险所进行的科学研判,数字人物运用中同样涉及私权、可能带来问题,需要进行合理规范。

  技术发展要兼具“创新”与“温暖”

  正如众多网民在接触和使用之中的感受,深度合成技术具有“两面性”。如何使其保持快速发展的同时,在各个应用领域得到依法合理有效利用,最大程度服务于满足用户需求、改进用户体验,保障“眼见为实”,是网民的深度关切和期待。

  张凌寒提到,深度合成技术代表了未来人工智能产业发展的重要方向,重新定义了虚拟化数字生存空间。

  2021年“元宇宙”概念的火热,为深度合成技术提供了更加宽广的应用场景,也促进了深度合成技术的加速发展。“《规定》也回应了这一人工智能未来的发展方向,三维重建、数字仿真等生成或者编辑数字人物、虚拟场景、沉浸式拟真场景的技术,是《规定》规制的深度合成技术的重要类别。”张凌寒说。

  深度合成技术向善使用,甚至还可带给人“情感慰藉”。2019年,我国某人工智能实验室受一位作为母亲的网民所托,将其已离世的女儿合成“复制”为可交互的软件,女儿的“语音”得以在互动终端设备中重现。一位美国记者詹姆斯·弗拉霍斯(James Vlahos)在父亲确诊为癌症晚期后,收集了父亲的录音、生平、记忆,并利用这些数据开发拥有父亲“思想”和“记忆”的AI机器人,它能够用父亲的口吻与詹姆斯进行有思维性的聊天,让詹姆斯感到十分欣慰。

  创新与温情之外,业内人士坦言,深度合成内容行业的挑战,将主要体现在深度合成逼真度正在快速提升,甚至很难分辨真伪边界。而最新的深度伪造技术具备强对抗性,天然针对检测方法进行对抗攻击,从而使检测方法失效。

  面向算法正面正向的应用,《规定》已给出了解答和方向。陶建华说,《规定》明确了技术应用的底线,要求体现正确的社会价值观;要建立健全辟谣机制并及时采取相应辟谣措施;同时鼓励深度合成服务相关行业自律并遵循公正公平、公开透明、科学合理和诚实信用的原则。

  中国社科院哲学所科技哲学研究室主任、研究员段伟文还建议,深度合成技术涉及认知安全,要提升社会认知安全意识,提升公众的数字素养。

[ 责编:雷渺鑫 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 庆祝中国春节 多国地标点亮中国红

  • 成都金沙遗址博物馆彩灯吸引游人

独家策划

推荐阅读
各地要以时时放心不下的责任感,始终绷紧农村地区疫情防控这根弦,思想上再重视,力量上再聚焦,资源上再倾斜,盯紧抓实各项工作,坚决打好农村地区疫情防控这场硬仗。
2023-01-27 18:12
中国农历正月初一,天津市民李女士通过手机数字人民币App,为正在上中学的女儿发了200元的数字人民币红包。
2023-01-27 17:56
今天是大年初五,“财神爷”携“致富兔”双顶流给大家拜年啦!
2023-01-26 08:08
它是中国特有种,仅生活在新疆天山海拔2800米到4100米的高寒地区。虎耳草、红景天、金莲花、雪莲…… 这些天灵地宝都是它的“家常便饭”!
2023-01-25 08:08
位于黄土高原的延安,在小小苹果的产业发展中,实现了果业强、果农富、果乡美。延安220余万人口中,有80万农民从苹果产业中获益,苹果收入占到农民经营性收入的61%。
2023-01-22 20:06
截至2022年底,我国移动电话用户规模为16.83亿户,人口普及率升至119.2部/百人,高于全球平均的106.2部/百人。
2023-01-21 09:13
熊猫基地大熊猫博物馆内于日前迎来了一位“新朋友”——仿生大熊猫机器人“小川”。
2023-01-21 09:12
自2021年8月17日阿尔塔什水利枢纽工程水电站6台机组并网发电后有效改变南疆三地州电力短缺状况,使南疆人民用上更为清洁的能源。
2023-01-21 09:12
记者从北京市文物局获悉,春节期间,北京多家博物馆结合本馆特色,深度策划“博物馆之夜”活动,灯会、庙会、汉服夜场秀等活动将充分满足广大市民游客参观需求,带来不一样的参观体验。
2023-01-21 09:11
在春节来临之际,“中国航天基金会航天科普教育基地”授牌活动20日在珠海太空中心举行,为珠海呈上一份逐梦空天、探秘寰宇的新春贺礼。
2023-01-21 09:10
在祁连山脚下,有一处人类为野生动物搭建的“避风港”,生存受困的野生动物在此得到照料,直到恢复健康再次回到野外。
2023-01-21 09:08
最近,有关部门连续发布《新型冠状病毒感染中医药防治问答(第一版)》《新型冠状病毒感染重症病例诊疗方案(试行第四版)》。
2023-01-21 08:53
中国工业和信息化部20日发布的2022年通信业统计公报显示,2022年中国电信业务收入延续较快增长态势,呈现趋势向好、结构优化、动能增强的发展特点。
2023-01-21 08:52
“阳”了之后怎么吃?这些饮食建议请收好
2023-01-21 08:51
避免进食过多重口味食物,如油炸油煎食物、腌制熏制食物、过于辛辣刺激的食物等,少喝含糖饮料。
2023-01-21 08:50
度过一个欢乐祥和的春节,保护好自己和家人的健康是基本前提。无论是否已经感染过新冠病毒,个人防护依然十分必要。
2023-01-20 10:13
中国科学技术大学郭光灿院士团队在多体非线性量子干涉研究中取得重要进展。该团队教授任希锋研究组与德国马克斯·普朗克光科学研究所教授Mario Krenn合作,基于光量子集成芯片,在国际上首次展示了四光子非线性产生过程的干涉。相关成果日前发表于《光学》。
2023-01-20 10:01
1977年,肩负不同任务的旅行者号探测器先后启航,开始了各自的冒险之旅。2022年,旅行者号任务迎来了45周年纪念日。从近距离飞越多颗行星到探索人类在太空中的最远距离,这对“姊妹花”在增强人们对太阳系的理解方面作出了巨大贡献。
2023-01-20 09:47
“人不负青山,青山定不负人。”国务院新闻办公室1月19日发布《新时代的中国绿色发展》白皮书,全面介绍新时代中国绿色发展理念、实践与成效,分享中国绿色发展经验。
2023-01-20 09:42
新冠病毒对于各类人群普遍易感,合理的营养不仅能够增强抵抗力,同时可以促进感染者的快速康复。在疾病初愈时,饮食上同样也要注意清淡,建议以营养、易消化的食物为主,保证基本的蛋白质和维生素的摄入,可以适当吃一些肉类、鸡汤类、牛奶、蛋类的食物,多吃新鲜的蔬果来帮助身体逐渐恢复。
2023-01-20 10:06
加载更多