点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:政法机关依法打击治理AI犯罪 守住人工智能技术应用法治底线
首页> 法治频道> 法治要闻 > 正文

政法机关依法打击治理AI犯罪 守住人工智能技术应用法治底线

来源:法治日报2024-07-04 09:37

  

漫画/高岳

  本报记者 杜洋

  4月12日,公安部公布10起打击整治网络谣言违法犯罪典型案例,其中4起典型案例涉及使用人工智能(以下简称AI)技术编造虚假信息;4月23日,北京互联网法院一审开庭宣判AI生成声音人格权侵权案……

  近年来,随着AI技术的快速发展,越来越多的人在工作生活中开始享受到该技术所带来的全新体验,但伴随而来的是,利用或滥用AI技术从事违法犯罪的活动(以下简称AI犯罪)日益增多。

  对此,政法机关依法履职,持续深挖彻查AI犯罪,不断扩大办案战果,努力提升打击治理质效,全力维护人民群众合法权益。

  “政法机关立足主责主业,发挥职能作用,全力打击治理AI犯罪,防范不法分子利用或滥用AI技术侵犯公民权利、危害公共安全,保证AI技术始终沿着正确的轨道向前发展。”首都师范大学政法学院法律系副教授崔俊杰对《法治日报》记者说。

  AI犯罪“花样”层出不穷

  “电脑AI去衣,白菜价。”

  2023年6月,原是北京一家互联网公司技术员的白某某,在境外的社交媒体上接触到了“一键去衣”的AI技术,便动起了歪心思。

  白某某通过境外的网站发布广告,在某社交软件上贩卖深度伪造淫秽图片近7000张,获利一万多元。目前白某某已被提起公诉。

  “一键去衣”究竟是怎样的一种技术?记者了解到,这项技术并不是真的“去衣”,而是在图片的基础上,通过AI自行运算使用相关的淫秽图像素材对图片进行重绘,和“AI换脸”“AI变声”一样,属于利用AI深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等信息的技术。

  “电诈犯罪团伙能够通过AI技术‘换脸’‘变声’,甚至是‘动态换脸’,增加了传统犯罪活动的危害性,还产生了新型的违法行为,如使用AI‘绘画’技术生成的绘画作品可能会对他人著作权造成侵权。”崔俊杰表示,当前AI技术已被不法分子使用于网络钓鱼、深度伪造、绕过身份检查、“越狱”式服务、人肉搜索和监视五个方面,进一步降低了犯罪的门槛。

  5月6日下午,江西省鹰潭市余江区人民法院公开宣判全国首例“AI游戏外挂”案,依法对被告人王某合以提供侵入、非法控制计算机信息系统程序、工具罪判处有期徒刑三年,缓刑五年。宣判后,王某合表示服从判决,不上诉。

  经审理查明:王某合通过制作出售“AI外挂”的方式牟利,2022年,其先后联系万某至、张某(另案处理)等人编写“AI外挂”程序。至案发,王某合非法获利共计629万余元。

  据悉,该程序可对多款游戏的画面数据进行未授权获取,对游戏中处理的鼠标数据指令进行未授权修改,造成玩家在玩游戏时,不用操作就可以“自动瞄准”“自动开枪”,干扰了游戏的正常运行环境,属于破坏性程序。

  在崔俊杰看来,AI技术标准化程度低、可定制性强、应用场景广泛,不法分子作案手法越发多样,导致AI犯罪不断衍生升级,如不及时进行打击治理,会给网络安全,甚至广大群众的生命财产安全带来严峻挑战。

  从严打击形成有效震慑

  为应对挑战,政法机关采取一系列措施打击AI犯罪,维护AI技术良好的发展环境,避免其在应用过程中引发失序和失范。

  2023年9月,最高人民法院、最高人民检察院、公安部联合发布《关于依法惩治网络暴力违法犯罪的指导意见》,明确对“利用‘深度合成’等生成式人工智能技术发布违法信息”的情形予以从重处罚。

  4月23日,全国首例AI生成声音人格权侵权案在北京互联网法院一审开庭宣判,法院认定被告方使用原告声音、开发涉案AI文本转语音产品未获得合法授权,构成侵权,赔偿原告各项损失25万元,并书面赔礼道歉。

  6月25日,江苏省张家港市人民检察院向市人民法院就一起敲诈勒索、诈骗案件提起公诉。据悉,犯罪嫌疑人所在的境内团伙通过虚拟定位、AI技术合成照片等方式,在交友软件上将自己包装成在外国的中国女留学生,随后以谈恋爱等名义,向在国外的留学生索取钱财。目前已查实该团伙敲诈勒索、诈骗50余人,涉案金额达100余万元。

  自最高检去年11月发布《检察机关打击治理电信网络诈骗及其关联犯罪工作情况(2023年)》后,各地检察机关按照相关要求,加大对侵犯公民个人信息尤其是非法获取人脸、声纹等敏感信息、利用AI等前沿技术伪造人脸、声纹以及获取其他信息犯罪的打击力度。

  此外,全国公安机关去年依托“净网”专项行动组织专项会战,严打泄露身份证照片等图像信息的犯罪源头,破获利用AI技术“换脸”进行诈骗犯罪案件79起,抓获犯罪嫌疑人515名,有效遏制了该类犯罪势头。

  政法机关依法打击AI犯罪,并通过办理典型案例的方式形成震慑,让想用AI技术非法获利的人心生畏惧。

  强化治理实现标本兼治

  记者了解到,在依法打击AI犯罪的过程中,政法机关深挖这一违法犯罪的规律特点,坚持以打开路、打防并举、源头治理、综合施策,会同相关部门单位深入推进行业治理、综合治理,压实主体责任,强化行业监督,堵住监管漏洞,全力挤压相关违法犯罪活动空间,加速完善常态化治理机制,切实提高其违法成本。

  据悉,为防范和打击“AI换脸”犯罪,全国公安机关联合国家重点实验室等单位,开展人脸识别与活体检测技术安全测评,覆盖即时通信、网络直播、网络社交、电商平台、金融支付等重点App,及时发现人脸识别验证系统存在的风险隐患,通报运营主体升级安全保护措施和人脸识别算法,不给不法分子可乘之机。

  与此同时,各地通过多种形式的宣传教育,帮助群众更加清晰认识到AI技术被利用或滥用所带来的法律风险,增强了大家对AI犯罪的防范意识。

  今年4月,安徽省合肥市警方通过中央媒体在关于“AI软件成造谣工具”节目中揭秘谣言制作过程,让网民更直观地加深了对AI造谣的认识,起到了较好的宣传效果。

  2024年以来,浙江省杭州市临平区借助“反诈智能AI宣防外呼系统”,自动识别、分析和预警潜在的诈骗风险,并以电话语音形式向市民发送提醒信息,不仅大幅提升工作效能,也切实提高了市民对诈骗风险的警觉性,降低了诈骗案件的发生率。

  “随着AI技术的快速迭代,对其被不法分子利用或滥用进行防治提出了更高要求。如AI犯罪行为更为隐蔽和复杂,证据收集难度大。”崔俊杰说,因此,如何更好地防治AI犯罪,对内容生成平台、行业监管部门乃至政法机关等各方都提出了挑战。

  崔俊杰建议,要坚持以科学适度的治理方式和治理手段回应技术发展和社会变迁,针对AI犯罪特点,相关部门需及时推动相关法律的立改废释纂,以良法促善治,提高依法治理水平;加大全链条打击力度,强化各部门协同配合,加强大数据法律监督模型应用,善于从中发现重点监督线索和社会治理存在的难点问题,实现精准监督、有效监督,在确保行业良性健康发展的基础上实现精准治理。

[ 责编:孙满桃 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 三峡水库持续泄洪

  • 甘肃甘谷:花椒飘香采摘忙

独家策划

推荐阅读
这项计划经济实惠且可行,将使人们能够保护最濒危的物种免于灭绝,为地球上的野生动植物提供保障。这些“保护要务区”,其实非常接近目前已在受保护的区域,这意味着它们很容易被纳入现有保护区,或较容易找到其他保护濒危物种的方法。
2024-07-19 09:30
从清华大学获悉,该校物理系尤力教授团队与北京量子信息科学研究院等国内外研究机构合作,首次在强相互作用的室温里德堡气体中,观测到了持续稳定的“时间晶体”信号。
2024-07-19 04:40
超导体因巨大应用潜力备受关注,寻找新型高温超导体是科学界孜孜以求的目标。记者从复旦大学获悉,该校物理学系赵俊教授团队利用高压光学浮区技术成功生长了三层镍氧化物,
2024-07-19 04:40
6月25日,嫦娥六号返回器携带来自月背的月球样品安全着陆在内蒙古四子王旗预定区域。除了成功实现人类历史上首次月背采样返回,嫦娥六号十足的“国际范儿”也是全世界关注的焦点。
2024-07-19 04:35
乡村振兴既要塑形也要铸魂。塑形在加强乡村基础设施建设,提升乡村风貌,改善农民生产生活环境;铸魂则要注重培育文明乡风、良好家风、淳朴民风,繁荣乡村文化,提高乡村社会文明程度。
2024-07-19 04:10
17日,西北首个集风、光、储、充、放及客户服务为一体的综合性智慧充电示范中心正式投运并对外运营。
2024-07-19 04:10
优良的早稻品种,对于提升种植效益、稳定双季稻生产具有重要作用。中国农业科学院中国水稻研究所近日举行现场观摩研讨会,推动新品种新技术与种业公司对接,促进产业发展。届全国早稻新品种新技术观摩研讨会近日在江西省萍乡市湘东区召开。
2024-07-18 09:43
在此基础上,团队又开发出一系列基因编辑、代谢调控、网络优化的工具,可以从不同层面来修饰、调控底盘细胞的性能。2023年,基于嗜盐菌的开发利用和“下一代工业生物技术”对业界的贡献,国际代谢工程学会授予陈国强“国际代谢工程奖”。
2024-07-18 09:42
近日,世界知识产权组织发布《生成式人工智能专利态势报告》(以下简称《报告》)显示,2014年至2023年,我国生成式人工智能专利申请量超3.8万件,居世界第一,是第二名美国的6倍。
2024-07-18 03:30
目前,我国农业科技进步贡献率超过63%,农作物良种覆盖率达96%以上,农作物耕种收综合机械化率达74%,数字育种、智慧农机、智慧农场等数字化生产模式遍地开花;农村电商蓬勃发展,
2024-07-18 03:30
建设科技强国、发展新质生产力、推进新型工业化,需要有与之相适应的工匠型人才。工匠型人才需具有敬业、精益、专注、创新的工匠精神,还应具备对数字技术、人工智能等现代科技的理解、使用、交互和创新等数字素养。
2024-07-18 03:30
实体经济是一国经济的立身之本。我们要牢牢抓住实现新型工业化这个关键任务,加快建设以实体经济为支撑的现代化产业体系,不断做强做优做大实体经济,为中国式现代化构筑强大物质技术基础。
2024-07-18 03:30
“发现243信号”“243信号跟踪正常”……在航天员“回家”时,这些关键节点信息指令的发出,意味着我们研发的定向仪系列产品精准发现了航天员位置。
2024-07-17 03:35
我们的主要保护对象是壁画。许多壁画已经存在上千年,经过时间的磨砺,如今它们的模样往往是“千疮百孔”。面对这些脆弱的文物,既要做好保护,又要做好“医治”,难度可想而知。
2024-07-17 03:35
随着科技的不断进步,航天技术逐渐揭开神秘面纱,从遥远的太空走进公众的日常生活,从提升农业效率到改进环境监测技术,从优化交通出行到革新医疗技术,航天科技正以跨界融合与创新应用的方式,
2024-07-17 03:35
囿于时间与空间,遥感影像通常只能捕捉到部分信息。科研人员需要通过这些信息去反演一个全过程模态,即将遥感数据转变为人们实际需要的地表各种特性参数,但这实际上是很困难的。
2024-07-17 03:35
“我们的车铣复合机床经过你们优化后,性能有了很大提升,销量同比增长30%。”日前,在浙江省台州市东部数控设备有限公司的生产车间,总经理赵小刚兴致勃勃地带着浙江省高档数控机床技术创新中心副主任武建伟一边参观,
2024-07-17 03:25
7月15日,由中国交通建设集团有限公司牵头的“中央企业海洋工程技术创新联合体”在北京成立。在《桥梁工程——从浅海走向深海》报告中,张喜刚透露,针对未来单跨1500米的斜拉桥和3000米左右的悬索桥,相关团队已开始研究适用于水深接近100米的新型复合技术。
2024-07-16 10:11
7月10日,记者从中国湖南农业大学获悉,该校农学院李林教授团队和中国香港李氏集团Sun Crops农业有限公司正式签署“尼日利亚花生复兴计划”合作协议。
2024-07-16 10:06
一种可能在早期地球浅水区繁衍生息的复杂微生物,可能是今天所有生命的最后一个共同祖先。”  为了像Martin一样探索LUCA的生活方式,Moody研究小组追踪了350种细菌和350种古细菌的57个“标记”基因,以构建一棵生命树。
2024-07-16 10:04
加载更多