GES观点碰撞：教育+科技的伦理与边界

　　多知网12月4日消息，在2018未来教育大会上，在《教育+科技的伦理与边界》圆桌论坛中，嘉宾们探讨了互联网在教育中应用后，如何趋利避害，真正让技术服务于教育。

　　本场论坛的主持人为北京师范大学远程教育研究中心教授张伟远；嘉宾有西安交通大学副校长郑庆华；工信部信息中心副主任李德文；北京师范大学哲学院教授、北京师范大学-香港浸会大学联合国国际学院教务长李建会；微软全渠道事业部首席技术官徐明强。

　　本场论坛，嘉宾们认为互联网技术应用于教育后，会产生一些负面价值，会有隐私问题和知识产权问题，而解决方法就是需要企业不要做恶，加强技术防范；而政府部门加强监管，用规范和法律制度保障。

 

　　以下为圆桌论坛实录，经多知网编辑整理：

　　主持人(张伟远)：技术为教育提供了精准的服务，那么新兴技术会不会带来新的伦理方面的问题？

　　郑庆华：科技与教育的融合一定能推动信息化、个性化、智能化、国际化基础的支撑手段，任何科学技术对于任何事务一样都具有两面性，趋利避害，谋划研究是非常必要的。那么教育与科技的融合过程中，怎样对数据进行分析利用是一个根本性的东西。

　　所有的行为都会留下痕迹，在信息化时代，所有数据都会产生日志，互联网教育当中基本数据都会采集利用，问题是采集数据的动机是什么？带来的是正面的，还是负面的？这些都是人工智能、大数据等信息技术对教育的影响和作用的发挥问题。

　　互联网在教育中的应用里面有三个问题需要关注和考虑：

　　第一，学会或者是理解在监督下，或者说有记录的情况下去做事情，现在大街小巷各种会议室都有摄像，都有上网的日志记录，这不以我们的意志为转移；

　　第二，一定要在教育领域要从善，要正面引领，而不是去研究人的隐私而不是伦理等问题，也就是说要让科学技术引领教育的发展；

　　第三，在新的历史时代，作为国家层面也好，一定要研究隐私新的范式、新的定义，它的内涵与外延。另外，要在这个基础上，分析伦理、隐私等对教育的影响。从而，做到有选择的发挥科学技术的作用。

　　李德文：科学技术与教育深度融合，科学技术推动科学创新方面起到了越来越重大的作用，但是科学技术是双刃剑，它可以带来正面的价值，比如经济的发展、社会的进步，文化的繁荣等，它也带来了越来越多的负面价值，比如环境污染、温室效应、隐私的效应等。

　　同时，技术对教育的发展产生正价值的同时，也在产生负价值，随着互联网技术的发展，尤其是多媒体互联网技术的发展，其在教育中的应用逐渐从局外的、边缘的教育工具转变为关键的，重要的支撑来改造教育，科学技术也越来越从塞入教学加入教学变为了潜入教学和融入教学，在这种情况下，教育越来越离不开技术，离开了电脑，离开了多媒体，在很多情况下教育可能就无法进行，结果，技术逐步由服务者的角色转变为控制者的角色，有可能出现了过度依赖技术而产生，技术对教育的控制或者垄断的情况。

　　负面价值由此产生：

　　一，师生关系冷漠化，比如慕课等大量使用，使得传统的教师与学生的从二元关系变为了机器、学生、教师三元关系，空间上限制了师生之间的对话，使得学生无法直接感受教师的情感、态度、价值观。学生逐渐改变为没有感情色彩的信息接受者，这在心理距离越来越远，师生关系逐渐冷漠化，教育中的人文关怀严重受到影响；

　　二，信息过量，信息污染导致学生压力增大，损害身心健康，由于互联网技术的提升，学生接受信息大幅度增加，虚假信息泛滥，过时、垃圾、冗余、谣言等信息泛滥，导致学习者压力增大，身心健康受到危害；

　　三，文化霸权，一些发达国家和地区，利用自己的技术优势，对自己的文化和理念进行宣传，对其他国家和地区造成无形中的巨大影响，形成文化霸权，形成文化殖民的目的；

　　四，造成教育不公平，很多情况下技术能达到教育的公平，比如慕课能打破阶层和地域的限制，能快速集结资源，但是现在教育技术也可能加剧这种不公平。发达地区的民众可以使用先进的技术，但不发达的地区使用不到，从而导致数字鸿沟的出现，教育公平会受到影响。

　　此外，还有隐私问题和知识产权问题。

　　总之，科学技术对教育的应用必须重视这些负面价值的影响，努力减少负面价值的影响，这是我们教育工作者应当承担的责任。

　　徐明强：我来自微软，那么我从技术角度探讨AI带来的伦理问题。

　　第一是公正性，美国独立宣言中提到“造物者面前人人平等”，后来有人解读称其中的“evry man”中的“man”指得是自由人，不包括奴隶。今天我们发现，人工智能在这方面也有不公正的地方，比如《纽约时报》在今年2月公布的结果中显示，美国人工智能人脸识别对于白人女性判断的错误率为7%，如果是深色皮肤的女性，错误率高达30%。因此，人工智能在人种方面不是太公平。

　　那在教育方面，还有种种不公正，曾有一个学校说有一个机器学习的演示，可以帮助学生发现哪些学生有好的成绩，希望和微软联合演示，学校数据出来我们看了后，我们拒绝了合作，因为数据出来后就是家里富裕的孩子成绩好，我们认为这个数据不公正，微软就没继续谈合作。

　　第二是包容性，微软在技术上吃过亏，比如微软第一款Xbox游戏机在日本卖得不好，分析以后知道那个“ Control”(手柄)太大，因为白人手大，所以就是按白人手掌标准去做得，他们觉得挺好的，但亚洲人握起来不舒服，没考虑到亚洲人的手相对小一些。这就反映出产品不够包容。因此，在人工智能在教育中的应用注意到这些。

　　第三是透明度，比如现在人工智能的围棋都非常厉害，成为了教学工具，AI棋走得好，但是为什么走得好，它讲不出来。这就是人工智能的问题，解答不了为什么的问题。

　　李德文：教育+科技的伦理问题，可以说是互联网+教育产生的伦理问题，因为随着大数据、人工智能、云计算等技术的使用产生了新的思考，互联网的使用产生了伦理的问题。

　　教育引入互联网是毋庸置疑的，大家已经达成共识，打破时空的限制，进行信息流的传递，而教育正好是信息的传递，因此，教育也是互联网适合发挥的领域之一。此前，邓小平讲过，教育要面向现代化，这个现代化就是应用，但是，现在教育在现代化的应用远远不够。

　　由于互联网的应用带来的伦理问题，我会从行政的角度谈谈这个看法，教育是公共事业，国家提倡公共服务均等化，到教育领域就是，基本教育均等化，教育有很多目标，均等化知识目标之一，这也是伦理的问题，也就是公平公正的问题。

　　教育是支撑信息的传递，对人和物的依赖最少，因此是最有条件实现均等化的公共服务之一。从政府的角度可以从三个方面促进均等化：

　　一、大力加强基础设施的建设，让大家能够用得上和用得起互联网，这个是工信部推进的工作，如提速降费，这在目前取得了阶段性的成果。

　　全国96%以上的行政村通上了光缆宽带，资费方面月均消费约51元，与德国相当，与美国日本韩国要低。在我国，我们对贫困地区投入很多，越是贫困地区资费越底。

　　二、优质资源供给问题，大城市的好的学校才有优质资源，边远地区只要有宽带就都会去争取优质资源，现在的问题是主要是自下而上的发动方式，作为教育的组织部门，怎么样自上而下作为整体的联动，这是一个很大的问题。

　　三、还有资源覆盖的问题，比如学而思的双师教学，怎么利用线上线下发挥作用都是需要考虑的问题。

　　另外还有信息保护的问题，互联网大数据的应用，这些都需要政府部门保证信息不被非法获取，确保学习者不能被一些信息受到伤害。

　　主持人(张伟远)：大家探讨了互联网在教育应用中带来的伦理问题，大家都认为会带来一些新的问题，那么，有没有解决的策略和方法？

　　郑庆华：我是学计算记专业的，技术应用于教育管理，提升教育质量是基本的目标和手段。从目前来看，有三个方面：

　　第一，推动教育管理手段的效果，比如对学校所有课程可以实现全覆盖的评价，我们还可以及时发现失联的学生，心理比较孤独的学生，关系活跃的学生等等，通过大数据平台可以实现精准的发现。对提升教育教学的效率、针对性和个性化起到了良好作用；

　　第二，在教育内容的数字化、智慧化、呈现化也有好处，比如，我们提出了知识图谱概念，把过去只见树木不见森林的离散的知识融合成一个相互关联的层次逻辑清晰的组织方式，这对提高知识过程的效率，有针对地进行导航学习也起到了非常重要的作用；

　　第三，测试，评价手段现代化智慧化改革，我们承担了教育部的一个课题，探讨5-10年以后运用人工智能技术、VR/AR 技术如何解决现在只能通过纸和笔考试的问题，纸和笔只能考知识，不能考能力，考能力现在的手段做不到，比如实验、设计的能力，快速反应的能力，一问一答的能力等，通过人工智能虚拟技术的应用，将来一定会突破考试的瓶颈，考试模式的改革一定会倒逼中小学走向素质教育的轨道，所以非常有意义。

　　要做到这些事情，有一个基础性的保障，也就是保障学生教师应有的基本权利，比如隐私等伦理问题，这些问题确实需要关注。

　　这些问题的解决我认为一是依靠教育，就是让老师知道职业操守是什么，不能超越底线；

　　二是依靠制度规范，就是要靠制度和法律去保证；

　　三是依靠技术手段，让管理有迹可循。

　　教育、制度规范、技术手段是三位一体，让技术真正服务于教育。

　　李德文：我是做哲学研究的，我曾经参与编撰了图书《离散同行》，帮助解决科技的伦理问题和价值选择，那么，科技伦理的解决方法是国际通行的叫原则主义，提出一些大家公认的原则，我认为教育过程中产生的伦理问题可以这样解决：

　　一，坚持教师在教育教学中的主导地位，注重师生互动，人文关怀，避免过度被技术控制；

　　二，坚持健康的原则，很多领域的有一条原则，就是不伤害原则。这里我想做一点改造，叫健康原则。也就是说，科学技术在应用教育时努力使得技术不会对教育者造成身心伤害，或者容易时教育者身心健康。

　　三，坚持有利有效原则，要让这些科技有利于教育者和受教育者，造福教育者、受教育者。这样有利有效不仅是短时的，还应该是长期的有利和有效。

　　四，坚持公平公正的原则，让不同地区的教师和学生都能使用到信息技术。

　　五，保护个人隐私，保护知识产权。

　　主持人（张伟远）：谢谢李教授，从一个哲学的角度来探讨这个问题，而且提出的几条基本原则，非常的重要。下面请微软徐博士发表自己的观点。有请徐博士。

　　徐明强：我也回应一下李教授讲到这个隐私，这是大家关心的一个问题。我介绍一下微软近年来和英特尔做一个合作，就是叫隐私计算。什么意思呢？现在大家迫切想要做的一件事情，就是比如两个学校，它都有不同的数据，如果各自做各自模型训练的话，最后出来的模型都不是非常好。两个学校希望把数据合成到一起，一起做一个训练，但是这个隐私法办不到的。过去是小人爱数据，得之有盗。现在和英特尔做，希望君子爱数据，得之有道。我们做的办法，是可以让数据传输的时候加密，有隐私保护；在存储的时候加密，有隐私保护。但是唯一没有办法在运行的时候对它加密。现在我们跟英特尔合作后，照样可以加密。现在在传输、运算的时候都可以保护。现在可以让两个学校加密在一起，可以训练好出更好的模型。所以这是我们一个努力的方向，将来会成为机器学习，阴私计算的一个方向。

　　我刚才讲到公正性问题，解决方法首先一定要非常仔细地训练数据，看看训练者是否把偏见引入。第二，不希望看到光是互联网公司，就是跨界和教育竞争，这个做教育，做AI应用，一定把教育界专家介入。从包容性方面来说，包容性比较重要的一点是，很多时候机器今天AI它智商很高，但是它同理心没有办法像一个教师这样，所以我们确实担心，没有同理心，教育出来的孩子，我们过去听到他山猿人的故事，害怕孩子机器人一样的思维。所以我想这方面AI更多的开发不光IQ，还有情商的开发。最后到了透明性，透明性的时候就是要把很多的，还是回到刚才数据的搜集采样那边，要更多的从制度上，要把数据本身，不光是要这个数据审查，另外在实际应用当中有反馈的，要随时发现这个片面的引入。感谢。

　　主持人（张伟远）：非常感谢徐博士，现在他们在技术方面给在保护用户隐私方面做出的一些突破性贡献。而谢谢。

　　最后请压轴代表工信部的李主任发表观点。

　　李德文：刚才讲的都很好。但是我觉得技术的进步是一种对社会带来影响最大的一种进步。一种重大的进步也会带来重大的社会变革，比如蒸汽机也好，电也好，现在互联网也好，这种变革是全方位的，深入到社会的各个领域，各个方面，各个角度。至于教育这方面必然带来伦理的问题。这个是我们永远无法能够回避的。

　　刚才几位专家都讲了，主要现在重点集中在数据保护问题。这个保护涉及到两个方面：一个是资源提供者，包括公共机构也好，比如学校也好，包括像好未来这种商业机构也好，他们掌握这种教育资源，他们有学员，学生数据，他们首先我觉得有两个义务要去做：

　　第一个，企业自己要不主动作恶。因为现在工信部打击垃圾短信，诈骗等，很多都是信息泄露。这个泄露是自己内部人卖数据。所以作为资源提供者首先保证自己不作恶；

　　第二，保证采取必要的技术手段，把你产生的数据加密也好，用各种防范措施也好，通过这种防御手段让别人拿不到这个数据，这也是很重要的一个方面。但是这里也离不开监管方的努力，监管方首先有一个定义，叫什么是要保护的数据。这可能通过立法来进一步明确。

　　第三，作为监管肯定要有效的实行监管的责任，它一定要加强对资源提供者的监督，要求它们一定要加强技术防范，加强伦理的教育，使他们信息不能够泄露出去。

　　最后，监管者还是要加强，打击个人信息，违法犯罪力度，对出现这种行为的，无论是资源提供方主动做的也好，还是外部有人窃取也好，要中重拳出击，使窃取信息的人受到法律的严惩，就是警戒后来者，惩戒犯规者，这个也是监管从两方面对教育+科技带来伦理方面的问题。

　　主持人（张伟远）：感谢李主任给出的实效性的建议。科技是双刃剑，给教育带来的发展的机遇，也探讨了伦理方面的主题。今天四位专家给我们这个主题进行了点题和开始破解这么一个难题，这也是现在国际上讨论非常热烈的一个主题。今天四位专家的启发性精彩的观点给我们研究这个主题提供了一个非常好的方向。让我们共同参与到这个主题的研究。最后我们再一次感谢各位嘉宾的精彩发言。也感谢各位积极参与。教育+科技的伦理和边界的主题圆桌到此结束了，再次谢谢大家。