教育

监控摄像头进教室:技术很新 问题很老

我高中三年最惊悚的回忆,大概是教室后门的玻璃窗上,班主任不时浮现的黑色眼睛。这双眼睛如果一直在,会有很多人坐立不安。

  现在:这双“眼睛”又来了。比肉眼还要灵敏的摄像头被布置在教室中央,监控所有学生。人工智能则赋予了它更高级的判断能力:他今天玩手机3次,打瞌睡2次,举手0次,学习不认真;她这堂课露出8次疑惑和3次厌恶的表情,微笑却只有1次,可能不太适应这位教师;教师则可以不动声色地查阅所有信息。

  最近试水这一领域的,是人工智能行业的明星企业旷视科技。一个趴在课桌上微笑的女孩,在这家企业的产品演示图里,被标注了“睡觉、阅读、举手、玩手机”等行为的次数。这引起了热议,有人说,管理学生搞得像治理监狱。

  被骂惨的企业可能感到很冤。它算不上先行者,一家教育企业早就宣称,自家的技术能识别学生的专注度和情绪;百度公司则在2018年表示,监控学生的头部动作和表情,就能辨别对方是否专心听讲,并“贴心”地推出了定制服务。这些新技术应用的“正面案例”大多淹没在资讯的海洋,为数不多“翻车”挨骂的是杭州的一所中学。去年,该校领导在电视镜头前热情演示了类似的系统。轻点几下,几个“不专注学生”的名字出现在大屏幕上。

  有人怀疑这越界了。大多质疑声投给了人工智能这项新技术。刚起步、未成型的东西代表未知,而未知带来恐惧。最糟糕的猜想在科幻小说里被描述过人类的举手投足被人工智能分析、控制,失去自由。

  我想起高中班主任的眼睛和他手里的教鞭,以及一些旧闻:人工智能还没有流行时,学校风靡安装摄像头。有班主任使用班费装了一个,每天监控班级;也有学校让家长交100元,就可以随时查看孩子的一举一动。

  好像也没什么不同,所以,我害怕的是人工智能,还是那些充满控制欲、想把学生框进他们设计好的模子里的人?或许人工智能本身并没有引发“新问题”,它只是一个工具,交到了那些本就让人反感的人手中。

  一个流行的说法是,新技术一定会带来新问题,比如人工智能会带来隐私争议。但同样的人脸识别,被用于安防、寻找走失幼童、监护老人或重症病人,很少会陷入争议。这些事人命关天,它们符合人们牢固的共识。我们每天使用的App,如今也都要拿走信息,分析和揣测我们的喜好。大多数人会同意那则协议,选择用数据换取方便的生活,这是我们自己的决定。

  但那个植入教室的摄像头引发了轩然大波。孩子们很少能有与教师乃至学校平等的话语权,他们没得选择;再好的学生也会走神、会犯困,被一直注意只会带来紧张甚至压抑,没人喜欢被控制,长辈却总想要一直听话的孩子;为了在监控与分析下取得“优良表现”,孩子们会不会被迫表演,就像我们经历过的那些必须朗声发言与热烈鼓掌的公开课,这样的学习有乐趣吗?直至像一位网友所说,这项技术倘若被当成辅助工具,识别那些长期心情不佳、生活不顺的学生,增添呵护,可能便具有温情。可目前,厂家的卖点和买方的诉求,大都倾向于迫使学生时刻专心听讲,甚至直接奖惩。

  这般理下来,发生在教室里的这则公案,哪有“新问题”?都是“老问题”!技术发展带来了诸多前所未有的伦理问题:能否编辑基因、克隆人类;有朝一日高度发达的人工智能是否该具备“人权”。但至少这次,问题没那么“浪漫”,就是后窗的眼睛变成了更高级的人工智能。

  9月5日,教育部科学技术司司长雷朝滋在受访时表露,对于类似人工智能,“要加以限制和管理,希望学校非常慎重。”“学生个人信息,能不采集就不采。”更大的背景是,今年7月,中国提出组建国家科技伦理委员会,将对新技术带来的伦理和法律问题作出规范。

  可以想象,这是一条必经之路。亟待完善的规则,既会涉及人类从未面临的新场景,也要解决诸如这些监控、分析孩子们的摄像头般,我们在过去尚未达成共识的问题。这也告诉我们,技术在未来的样貌并不确定,不同人眼中的它们可能截然不同,需要彼此不断探讨甚至争论。

浏览过本文章的用户还浏览过
  • 教育部:学校不得为防止安全事故而限制取消课间活动

    中新网8月20日电 针对“一些学校担心发生安全事故而取消体育课、社会实践”一事,教育部政策法规司负责人表示,学校不得为防止发生安全事故而限制或取消正常的课间活动、体育活动和其他社会实践活动。 资料图:山西太原,家长与孩子一同上体育课。中新社记者 [详细]

  • 上海探索建立未成年人教育培训行业“黑名单”制度

    中新网上海1月15日电 (记者 李姝徵)近年来,侵害未成年人人身权利的违法犯罪案件屡屡发生,一些从业人员利用职业便利所实施的侵害行为,更是严重危害未成年人身心健康及家长、社会公众的安全感。 为改变此种局面,记者15日从上海检察部门获悉,上海检察机关 [详细]

  • 【地评线】我们的祖国正青春 70年科技发展之路启示

    2019年是新中国成立70周年,70年风雨兼程,70年砥砺前行,今日之中国,已然成为世界舞台上不可忽视的重要力量。正是由于中国共产党的坚强领导和勤劳质朴不服输的中国人民的不懈奋斗,才有了今天政治、经济、文化、社会、生态文明“五位一体”的全面提升,站 [详细]

  • 作业没做完?开学大“作”战 有人守着孩子熬到凌晨

    南充市嘉陵区某学校开学报名现场 暑假一晃就过去了,但作业还没有做完……面对儿子的焦虑,方先生也格外苦恼,因为儿子没有完成暑假作业,开学三天了还没有领到新学期课本。 他跟朋友聊起这事,原来,很多家长的苦恼都是相似的:有守着女儿做作业到凌晨1点过 [详细]