人脸识别进校园引发争议 对“人工智能+教育”应审慎

对“人工智能+教育”应持审慎态度

人脸识别进校园引发争议实时监控或让学生变戏精专家认为

●　人脸识别进校园，既有数据安全也有个人隐私问题，包含学生的个人信息要非常谨慎，能不采集就不采集，能少采集就少采集，尤其涉及个人生物信息的

●　网络安全法规定，网络运营者收集、使用个人信息，应当遵循合法、正当、必要的原则，公开收集、使用规则，明示收集、使用信息的目的、方式和范围，并经被收集者同意

●　表情监控在某种程度上侵犯了学生的尊严，也是对学生自主学习能力和教师授课能力的不信任。学生长期在监控环境下学习、成长，容易养成“表演性人格”

□　本报记者 　杜 晓

□　本报实习生 景千姿

随着人工智能不断发展，人脸识别技术被越来越多地应用于校园中。

据了解，一所知名大学2019级新生“刷脸”就能瞬间完成报到程序，系统是这所学校的学生研发的，学生对着摄像头，人脸识别系统就开始进行比对，眨眼间就能完成扫描，整个报到注册手续几乎不到一秒钟。此外，通过人脸识别还可以对学生进行考勤，以及实时观察学生的上课状况等。

对此，教育部科学技术司司长雷朝滋认为，“(对于人脸识别技术应用)我们要加以限制和管理。现在我们希望学校非常慎重地使用这些技术软件。教育部已经开始关注这个事情，组织专家论证研究”。

雷朝滋还说，人脸识别进校园，既有数据安全也有个人隐私问题，“包含学生的个人信息都要非常谨慎，能不采集就不采集，能少采集就少采集，尤其涉及个人生物信息的”。

人脸识别进校园究竟会有哪些利弊？《法制日报》记者对此进行了采访。

实时监控课堂表现

老师学生压力增大

近日，中国药科大学试水“人脸识别进课堂”，在校门口、学生宿舍、图书馆及部分教室等场所安装人脸识别系统。这个系统除了能自动识别学生的出勤情况外，还能识别出学生是否认真听讲，课堂上抬头低头了几次，低头是否在玩手机，是否闭眼打瞌睡等。有网友认为，这样的系统在校园广泛应用或涉嫌“侵犯隐私”。

据了解，早在2015年，国内一所知名高校就曾在高校信息化建设中首次引入人脸识别技术。近年来，有些地方的初中出于“提升校园安全”考虑，在校园门口安装人脸识别考勤系统。

“现在是互联网科技时代，到处都讲‘互联网+教育’,这是教育的创新，我们也很乐意看到新技术的应用能给教育行业带来新的生机。”一位从教近10年的高中老师杨妮(化名)对《法制日报》记者说。

“初、高中学生上课自觉性比较差，需要老师的督促，如果上课期间需要老师不停地维持课堂纪律，那么课堂质量就会有所降低。而且传统的点名方式浪费时间，准确率也不高。从这个方面来说，在教室安装人脸识别系统确实能帮助老师维持课堂的秩序，从而专心把精力放在对课堂内容的把控上，很大程度上提高了课堂效率。”杨妮说。

杨妮认为，尽管人脸识别系统能给教学带来一些好处，但是如果老师和学生长期处于人工智能的“监视”之下，有可能会适得其反。一旦学生意识到自己处于监控状态之下，那他们在课堂中的表现就必然是失真的，老师们无法得到真实的教学反馈，也不能准确了解学生们的兴趣点和对知识的掌握情况。

“对于老师而言，在监控之下教学，难免会出现迎合的心态，无法完全放开自主发挥。老师们把课堂教学变成表演，学生们也在表演，长此以往，教学效果就会不断降低。”杨妮说。

西安一名大学生陈霖(化名)告诉《法制日报》记者，没有哪个学生会喜欢这种上课方式。“这就像是有人在一直监视你，没有人会喜欢被监视。对于类似的系统，我们肯定是比较抵触的，如果强制安装，那只会让大家的逆反心理更重，根本达不到提高课堂质量的效果，学习关键还是要靠自觉。”

陈霖就读的大学目前已经开始通过人脸识别进行考勤，出入宿舍也会有人脸识别。

“这些都是出于安全考虑，我们可以理解，但如果人脸识别真的推广到教室里，连大家的细微表情都能监控，那就有点可怕了。”陈霖说。

人脸识别侵犯隐私

教育创新尊重学生

据中国药科大学图书与信息中心有关负责人介绍，目前学校在两间教室试点安装的人脸识别系统，除了自动识别学生出勤情况外，学生是否认真听讲，课堂上是否抬头低头，低头是否在玩手机，是否闭眼打瞌睡，都逃不过系统的“法眼”。

上述人脸识别系统引起关注后不久，该人脸识别系统的开发企业回应称，该图为技术场景化概念演示。针对网友热议的隐私保护等问题，这家开发企业称，在人工智能技术的各种场景中，会坚持正当性、数据隐私保护等核心原则，接受社会的广泛建议和监督。

中国传媒大学法律系主任郑宁认为，人脸识别系统在校园推广确实有侵犯学生隐私的可能性。人脸属于个人生物信息，而且属于可以识别的个人信息，一旦被泄露或被不法分子利用，风险远远高于其他信息。

郑宁告诉《法制日报》记者，网络安全法中提到，网络运营者收集、使用个人信息，应当遵循合法、正当、必要的原则，公开收集、使用规则，明示收集、使用信息的目的、方式和范围，并经被收集者同意。网络运营者不得收集与其提供的服务无关的个人信息，不得违反法律、行政法规的规定和双方的约定收集、使用个人信息，并应当依照法律、行政法规的规定和与用户的约定，处理其保存的个人信息。民法总则也明确提出，自然人的个人信息受法律保护。任何组织和个人需要获取他人个人信息的，应当依法取得并确保信息安全，不得非法收集、使用、加工、传输他人个人信息，不得非法买卖、提供或者公开他人个人信息。

郑宁认为，人格尊严是法律规定的人的基本权利，表情监控在某种程度上侵犯了学生的尊严，也是对学生自主学习能力和教师授课能力的不信任。

“作为一线教师，我认为，靠人脸识别系统对学生进行表情监控来提高课堂效率，既不合法，也不合理。提高课堂效率，归根到底，还是要靠先进的教学理念和教学方式、丰富生动的教学内容。”郑宁说。

21世纪教育研究院副院长熊丙奇告诉《法制日报》记者，去年，某中学使用“黑科技”打造“智慧教室”，对学生进行表情监控，以提高课堂教学效率，舆论对此普遍质疑，认为此举不尊重学生的人格权利，侵犯学生隐私。学生长期在监控环境下学习、成长，容易养成“表演性人格”。因此，对这种所谓的技术创新应该持十分慎重的态度。

熊丙奇还认为，在资本逐利和学校提高教学效果的双重驱动下，一些企业开发并推广这种以监控学生上课表情、行为的人工智能系统，也有一些学校采用这样的系统，并以使用后的效果，诸如学生上课更投入，老师管理学生更方便，学生成绩提升以及学生间、师生间的冲突与纠纷减少，来论证采用这一系统的科学性、合理性。

“现代科学技术当然可以用于教育教学中，但需要首先分辨清楚教育是什么。很显然，在教室里安装监控，全天无休地对着学生，适时采集学生的表情、动作，这种做法的反教育性质比较明显，但却得到个别教育管理者和学校的认可。这是因为有的教育者和办学者忽略了教育的本质，只是考虑怎么管理方便以及怎样提高成绩。”熊丙奇说，学校是育人的地方，必须帮助学生健康成长，所有的教育创新必须以尊重学生的人格为基本出发点。

新技术推广须谨慎

教育不能偏离正轨

另据了解，除了中国药科大学之外，某小学也在使用同一套系统。这套系统运用在姿态评估、表情识别、语言识别、教师轨迹热力分析等方面，可以捕捉到学生在校园生活中是否有微笑、向老师问好、主动捡垃圾、列队整齐等良好行为，或者快速奔跑、摔跤、打架、拥挤等危险动作。

郑宁认为，在学校推广人脸识别技术要特别慎重。一些学校启用人脸识别进出校门，作为校园安全管理措施，有其正当性，但应该向师生明示收集、使用个人信息的目的、方式、范围，并取得他们的授权，并且建立完善的个人信息安全保护措施，防止相关信息泄露或被不法分子利用，否则要承担相应的法律责任。在课堂里利用人脸识别进行表情监控，除非经过学生明确授权，否则应当禁止。

在熊丙奇看来，教室里可以安装监控，但应该只在两种情况下使用，一是在考试时监控考场秩序，二是在获得教师和学生同意的情况下，直播课堂教学，与其他学校、课堂共享教育资源。如果一直使用监控，盯着学生和教师的上课情况，会让整个教学活动变为表演，对学生的人格成长产生很大的负面影响。

“也有人说安装监控系统，便于教师管理学生，但其实在监控体系之下，教师也是被管理对象，长期使用监控系统，对教师的职业化、专业化发展也会有很大的负面影响，教师上课就依靠智能系统的‘反馈’,告诉教师哪个学生不认真，哪个学生不专注，这是技术识别的结果。离开了技术手段，老师还会教学吗？教育是有情感和灵魂的事业，无节制地使用人脸识别等技术，会把教育变得没有灵魂和情感，那还不如使用教育机器人。”熊丙奇说。

熊丙奇认为，要让教育创新符合教育规律，应该由教师委员会和学术委员会进行论证，并广泛听取教师和学生的意见，不能由少数人决定。在资本驱动下，某些企业倾向于对一些教育领域的新概念进行炒作，某些学校会因此变得急功近利，让“人工智能+教育”的路越走越偏，因此需要及时正本清源、回归正道。