点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:从“一键生成作文”到数据泄露隐患 学生用AI,边界何在?
首页> 法治频道> 法治要闻 > 正文

从“一键生成作文”到数据泄露隐患 学生用AI,边界何在?

来源:法治日报2025-04-09 10:14

  《AI“助手”》 漫画/高岳

  本报记者 赵丽

  本报实习生 陈颖

  在某AI(人工智能)工具中输入“五年级游记,不要太复杂,有游览过程,中间和结尾提升环保主题”,不到30秒,屏幕上便跳出一篇结构完整、内容丰富的文章。

  再轻轻滑动屏幕,快速浏览一遍后,调整几个句式,摘除过分华丽的不属于五年级水平的词汇。就这样,在北京某小学上五年级的刘晓畅轻轻松松便完成了清明假期的作文作业。

  “只要不写得太‘完美’,老师就察觉不到。”刘晓畅对《法治日报》记者说,“班上很多同学都在电脑、iPad、手机里装了AI应用,有时作业太多,时间不够用,AI能帮上大忙。”

  像刘晓畅这样熟练使用AI应用的学生不在少数。某机构去年对全国范围内14岁以上未成年人和学龄儿童家长展开的调查显示:处于学习黄金阶段的青少年对人工智能技术等前沿科技的了解意愿较强烈,听说过人工智能技术的青少年比例有92%,近半数青少年使用过人工智能产品,内容生成是主要用途之一,占比超30%。

  多名受访家长反映,从语文作文,到数学方程,再到英语听力,对孩子们来说,样样皆可求助AI。“这会不会影响孩子的自主学习能力?”“AI工具‘适当使用’的边界在哪里?”……不少家长对此亦有担忧。

  AI在学生群体盛行

  记者近日随机采访了北京、上海、贵州等地30名中小学生,几乎所有受访者都表示曾使用过AI辅助完成语文作文、英语翻译、数学解题等作业。

  “我用AI写作文已经半年了,效果还不错。”来自上海的高一学生林亮告诉记者,他常用AI生成作文初稿,再根据自己的想法进行修改,“初稿虽然有种浓浓的‘AI味’,但至少给了我一个思路,省去了很多思考的时间。这种做法没啥不妥,反而是一种‘高效学习’的方法。”

  在贵州贵阳某中学读寄宿的王泽龙说,学校不允许学生携带手机,因此日常作业没法用AI。但一到周末,如果作业写不完,就用搜题软件,拍照就能出结果。

  记者试用了两款在学生中较为流行的App,发现这两款App均有拍照作业批改、检查等功能。AI写作功能更是被两款软件单独突出展示。输入作文标题、写作要求及字数要求,片刻间就能生成一篇成熟的文章。

  “一些学生回家后完成的习作,交上来就‘AI里AI气’的。”北京市西城区某小学语文教研组组长段老师说,他通常会根据文章的逻辑连贯性、语言风格及是否贴合学生实际生活经验等方面,判断学生的作业是否由AI辅助完成。

  记者采访发现,除了中小学生外,一些大学生也在用AI工具辅助完成论文撰写等作业。

  “即使老师在布置结课论文时百般强调‘现在AI这么强大,禁止你们使用是不可能的,只希望大家用AI来获取新的灵感,不要照搬照抄’。但一到期末,我们要写很多篇论文,时间紧任务重,我和很多同学都会用AI写论文。但没有人会把AI生成的内容原封不动地粘贴到正式文本中,因为AI给出的一些论文参考并不准确,所以我们通常是生成内容,自己再顺几遍,确保有十分的‘人味’和准确度。”在江苏南京某高校读研的李婷说。

  教育数据公司麦可思发布的2024年中国高校师生生成式AI应用情况研究显示,国内高校师生几乎都曾在学习和工作中使用过生成式AI,从未使用过生成式AI的高校师生比例仅为1%。其中,近六成高校师生频繁使用生成式AI。

  AI是一把“双刃剑”

  学生完成作业是否需要此类“神器”辅助?频繁使用AI会给学生带来怎样的影响?

  “上课做几乎全错,回家做就几乎全对。”北京市民张芳(化名)的孩子今年上小学六年级,她发现孩子在家写作业都是用AI工具“一扫”“一搜”完成的,可一到课堂或者考试就露馅了,“这不是糊弄家长和学校吗?如果是启发孩子动脑思考、自主找寻答案还好,但直接告知答案,等同于作弊”。

  在北京外国语大学法学院教授姚金菊看来,AI在教育中能够根据学生的学习进度、理解能力和兴趣,为其量身定制学习内容,帮助学生有效提升学习效率。然而,这种个性化的帮助也可能导致学生缺乏对问题本质的深刻理解和对知识背后逻辑的探索,进而逐渐失去主动思考和自主探索的能力。

  来自贵州贵阳某中学的数学教师汤捷认为,对于中学生来说,使用AI完成作业弊大于利,因为它会让学生产生一定的依赖性。尤其是数学,学生长期用AI做题而不自己深入思考,数学思维就培养不出来。

  “虽然现在流行AI进课堂,用于提高课堂效率,但教育是有温度的,是针对人的教育,AI没法代替师生间的互动。”汤捷说,为了更好地教学,发掘教师和学生的主体价值,她开发了“四满课堂”,并在授课时增加了“一课多问”的步骤,鼓励学生对数学进行质疑与创新,拓展学习的边界。

  在湖南株洲某中学任教的英语老师李沐纯说,自己赞成学校开展AI教育,但不赞成让学生自由使用,因为初中生自律性相对不足,尤其是小县城中很多家长没有充足的时间陪伴监督孩子,一些孩子为了尽快玩耍就用AI写作业。

  中国传媒大学文化产业管理学院法律系主任郑宁指出,AI生成的文章在表达上有时候看似观点很全面,但其中不乏逻辑性、准确性、真实性的问题,尤其会出现数据和材料的伪造情况,需要学生在使用AI时警惕可能带来的学术伦理问题。

  须发挥AI辅助作用

  记者梳理公开资料发现,为杜绝AI在校园中的滥用,教育部和一些高校出台了相关举措。

  2021年,教育部办公厅印发通知,对加强教育App管理、推动与“双减”政策衔接提出明确要求,对于提供和传播“拍照搜题”等惰化学生思维能力、影响学生独立思考、违背教育教学规律的不良学习方法的作业App,暂时下线。整改到位并经省级教育行政部门审核后,方可恢复备案;未通过审核的,撤销备案。

  福州大学发布通知,对2024届本科生毕业论文(设计)进行AI代写的检测,结果将作为成绩评定和优秀毕业论文评选的参考依据。

  华东师范大学传播学院联合北京师范大学新闻传播学院发布《生成式人工智能学生使用指南》,规定使用生成式AI时应明确标注,且直接生成内容不超过全文的20%。

  复旦大学发布本科毕业论文(设计)使用AI工具的试行规定,明令禁止直接使用AI工具生成正文文本、致谢或其他组成部分,禁止使用AI工具进行语言润色和翻译等。

  在姚金菊看来,对于未成年人来说,可以通过智能管理与权限分层来规范,通过“实名认证+人脸识别+设备绑定”三重验证,防止未成年人冒用他人账号用AI代写作业。同时,硬件设备和数字化平台可以通过技术手段根据不同年级向学生开放对应内容。教育、网信、公安等部门也应联合加强监管,对违规App及时下架、实施相应处罚。

  “学生要学会质疑AI生成的内容,评估其准确性和可靠性,培养自主判断能力。在使用AI时,可以分阶段、以辅助的形式使用,以自主构建的逻辑框架作为AI优化的引导指令,真正发挥AI的辅助作用。学校和教师也可以通过制定明确的AI使用规范,规定文章中的AI生成内容比例。”姚金菊说。

  与此同时,记者注意到,2024年,教育部办公厅发布《关于加强中小学人工智能教育的通知》,提出要于2030年前在中小学基本普及人工智能教育。北京、上海、深圳、杭州等地则更早拿出了行动方案。

  有受访者焦虑道:AI教育的本质是数据驱动,而这些数据直接关联学生的个人信息。一旦数据泄露,将对学生的成长、安全乃至未来发展造成不可逆的伤害。

  首都师范大学教育政策与法律研究院副院长蔡海龙建议,学校等教育机构在引入AI技术时,必须严格遵守数据保护法规,选择安全可靠的产品和服务,并建立完善的数据管理和安全防护机制。技术提供商更应承担起保护学生数据的重任,采用最先进的加密和匿名化技术,杜绝数据泄露的风险。

  (文中受访学生均为化名)  

[ 责编:孙满桃 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 习近平圆满结束对马来西亚的国事访问

  • 习近平访问马来西亚 精彩照片都在这儿!

独家策划

推荐阅读
儿童是嗓音障碍的高发群体,更应得到及时、有效的防治。
2025-04-17 10:36
大数据若停留在实验室,便失去了意义。我们的目标是将数据转化为信息,再升级为决策支持。
2025-04-17 10:30
面对人工智能这把“双刃剑”,我们亟须构建完备的人工智能安全治理体系。
2025-04-17 09:30
立足经验,破解问题,继续纵深推进国家教育数字化战略布局,以人工智能助力教育变革。
2025-04-17 09:27
地月空间是指从地球低轨延伸至月球(约38万公里)以及远至200万公里的空间。
2025-04-17 09:27
蓝箭航天空间科技股份有限公司天鹊系列发动机在其浙江湖州动力制造基地完成第100台正式下线,标志着我国商业航天动力系统实现从单台研制到批量制造的跨越,迈向规模化应用新阶段。
2025-04-16 10:20
华中科技大学同济医学院附属协和医院心脏大血管外科主任董念国团队,近期将历时3年自主研发的儿童用磁悬浮双心室辅助装置,成功植入一名7岁终末期心衰患儿体内。
2025-04-16 10:19
全球首次成功绘制六倍体小麦的端粒到端粒完整基因组图谱,实现了小麦基因组从“头”到“尾”无缺口的精确组装。
2025-04-16 10:17
从数学上讲,绳结交叉点与量子算法之间的理论等价性已经为人所知数十年,但直到现在才由该团队完全付诸实践。
2025-04-16 10:15
香江四月,风暖潮平,2025年世界互联网大会亚太峰会于4月14日在香港开幕,为携手构建网络空间命运共同体勾勒出更包容、更可持续的未来图景。
2025-04-16 10:10
近年来,我国强化统筹规划,产学研用等相关主体密切协作配合,全力强化“政策扶持、科技创新、人才强基、对外合作、历史文化”等五大措施,推动天然橡胶产业发展取得积极成效。
2025-04-16 10:09
借助一种名为SMART-EM(单分子原子分辨率时间分辨电子显微镜)的技术,首次在原子尺度上拍摄了催化反应过程。
2025-04-15 11:02
中国旅游研究院联合马蜂窝发布《中国赏花游报告2025》
2025-04-15 10:46
春天里,田野上,一粒粒良种破土而出、向阳生长,承载起端牢中国饭碗的希望。既为品种权人提供有力保护,又有效规范种业市场,一粒种子伤“芯”被抚平的故事,折射法治对种业发展的有力保障。
2025-04-15 11:00
中国是拥有杜鹃种类最多的国家之一,超过530种。2018年,《毕节市百里杜鹃风景名胜区条例》出台实施,形成对百里杜鹃资源保护“有地方性法规、有特设机构、有专岗人员”的立体化保护机制。
2025-04-15 10:58
从概念验证中心起步,一大批创新项目正培育成熟、投入市场,迈向更加广阔的未来。
2025-04-15 10:49
以耕地保护为例,为扭转黑土地退化趋势,我国自2020年启动实施了东北黑土地保护性耕作行动计划。
2025-04-14 09:58
北京市、中国科学院发布怀柔综合性国家科学中心科技设施开放运行报告,怀柔综合性国家科学中心已布局建设37个科技设施,其中16个已向全球开放,包括多个国家重大科技基础设施。
2025-04-14 09:57
近日,我国自主研制的最大直径盾构机“沧渊号”在江苏常熟下线,将用于世界最长高速公路水下盾构隧道——海太长江隧道工程施工。
2025-04-14 09:57
志林肚天牛体色以浅红褐色为主,下颚内缘为黑褐色,触角呈暗红褐色。
2025-04-14 09:30
加载更多