杜时忠：华中师范大学道德教育研究所所长、教授、博士生导师；湖北省学校德育研究中心研究员
原文载于《中小学德育》2023年第9期
摘要：把机器智能译为人工智能，扩大了概念的外延。目前机器智能尚且处于弱人类智能阶段，既具有突出的优势，也具有明显的不足。在这一阶段，科技乐观主义和科技悲观主义的德育立场均存在可疑之处，比较谨慎的德育立场是坚持科学人文主义，坚决培养数字公民，坚守本真德育信心。科学技术、机器智能是人类发展和社会发展的工具而非目的，必须坚持以人为本、人是目的。
关键词：机器智能；弱人类智能；科学人文主义；数字公民；本真德育
一、立场冲突：来自不同声音的思考
2022年底以来，随着ChatGPT的横空出世，人工智能成为举世瞩目的焦点。有人欢欣鼓舞，有人忧心忡忡，甚至有人提出学校教育已近黄昏，教师被取而代之的日子屈指可数。谈到人工智能时代的学校德育，有两种极端对立的观点：一种观点认为，人工智能可以为德育赋能；另一种观点则相反，认为人工智能不能为德育赋能。
放眼历史，自人类进入工业时代以来，每一项具有重大意义的技术突破和技术创新，都会引起强烈的社会反响，产生不同思想观点的讨论和激烈的学术争鸣。究其实质，就是如何看待科学技术的发展，如何看待科技发展与社会发展、人的发展、教育发展的关系。对此，形成了两种针锋相对的观念，即科技乐观主义和科技悲观主义。前者奉行科学万能论，走向唯科学主义；后者秉持科学理性有限论，走向反理性反科学。
对于人工智能在教育领域的发展蓝图与应用前景，科技乐观主义者信心满满，甚至雄心勃勃。他们从一切皆为数据、一切皆可计算的哲学立场出发，认为不仅应该而且完全可能建立计算主义教育学。[1]在计算主义教育学的指引下，人类可以解决和克服工业时代以来学校教育的所有难题，这让笔者联想到，数百年前牛顿发现万有引力之后，有人曾建议在全世界遍设“牛顿议会”，如此一来地球变成天堂的日子很快就要到来。他们要求重新定义教育，重新定义德育，重新定义教学，重新定义学校，重新定义教室，重新定义教师，重新定义学生。对于智能时代的学校德育，他们认为借助人工智能，能够更新德育理念、德育内容和德育方法，能够基于大数据分析，精准投喂满足学生个性化成长需要，能够突破学校围墙的限制，无边界地共享德育资源，因此人工智能能够为德育赋能。
科技悲观主义者则相反，他们对人工智能在教育领域的应用保持警惕，对其应用持谨慎防范的态度。他们认为，教育的量化不仅不符合教育的本真，而且导向教育过程模式化、教育发展形式化、学生发展同质化、学校发展趋同化，因为人工智能极有可能被误用，教育大数据极有可能被滥用。有论者甚至提出，人工智能越发展，人类越危险，这与1970年代罗马俱乐部提出的“停止增长”的主张何其相似乃尔！对于智能时代的学校德育，他们坚持道德学习不同于并且远远高于客观知识学习，它是主观的、情感的、意志的价值体系形成过程，是内与外、群与己、天与人复杂交互的过程，而不是简单的人—机过程；道德教育是符号逻辑、意义逻辑和实践逻辑所构成的复杂活动，需要打通符号世界、意义世界和生活世界，远远超过了算法世界和逻辑世界。面对创造性的、价值性的、情感性的、自主性的德育，人工智能只能望洋兴叹。
这两种对立的观点孰是孰非？智能时代的学校德育何去何从？
选择和确定立场的前提是掌握事实和原理。就我们所讨论的主题而言，首先必须澄清如下系列问题：何谓人工智能？基本原理为何？其优势何在？其限度在哪里？它能做什么？它不能做什么？……
人工智能是个外来词，英语为Artificial Intelligence(AI)。将Artificial Intelligence译为人工智能，尽管不能说完全错误，但其准确性值得怀疑。因为英语词典对Artificial Intelligence的解释为：capacity of machines to simulate intelligent human behavior. (Oxford Advanced Learner’s Dictionary of Current English, Fourthedution,1989) 翻译过来就是：机器模仿理性的人类行为的能力。仔细推敲，这一解释至少有三个要点值得重视：第一，它是机器或者机器体（如电脑、无人机等）的能力，能力的主体是机器体而不是人体本身。第二，它只是“模仿”人类的理性能力而已，并不“等同于”人类的理性能力本身。第三，它模仿的并非人类的全部能力，只是理性的能力，言下之意非理性能力如情感能力、意志能力等不在模仿之列。因此，准确的译名应该是机器智能，译为人工智能无疑扩大了概念的外延。因为，机器智能与人工智能存在着不容忽视的差异。尽管机器可以视为人工，但是人工并不限于机器，它比机器要宽泛得多。比如，房屋、桥梁、桌椅板凳等人造之物皆可以视为人工，但并不能视为机器。有鉴于此，本文将其表述为机器智能。
机器智能的原理是以计算机和大数据为基础的一种技术，通过模拟人类的思维过程而具备感知、思考和决策能力。其实，机器智能并非机器本身的智能，而是人类智能在机器上的应用与体现，是人类智能的放大与延伸。这种放大与延伸有三个阶段：即机器智能1、机器智能2和机器智能3。机器智能1属于弱人类智能，机器智能2属于等人类智能，机器智能3属于超人类智能。弱人类智能相对于等人类智能、超人类智能而言，指的是机器智能只能在少数有限的范围或领域里胜过人类，虽然这个领域或范围在不断扩大，但是整体上还达不到人类智慧的水平。等人类智能指的是机器智能具有与人类同样水平的智能，能够具有同人类一样达成任何目标的能力。超人类智能则是指机器智能已经在整体上超过了人类智慧，克服了人类智慧的诸多限制或者局限。显然，真正可怕的是超人类智能，因为它比人类更有智慧、更有力量、更厉害，可能会导致人类的消亡。[2]
应该明确的是，当前所处的阶段是机器智能1，即弱人类智能，其优势主要是：第一，它能在少数有限的范围或领域里胜过人类，如机器人下国际象棋可以胜过顶尖的国际象棋大师。第二，机器智能进行海量知识、信息的存储、提取、转移、输送，比人脑更有效。第三，基于大数据的逻辑运算与逻辑推理，机器智能比专业人士拥有更高的准确率，比如，机器医疗诊断比医生论断更少出错。第四，在极其危险、极其单调枯燥的工作岗位，机器智能的表现比人类更出色。第五，它没有人体的身体极限，能够不需要休息、“不知疲倦”地工作下去，等等。然而，这个阶段的机器智能存在明显的局限，其对人类智能的放大或延伸有明确的限度。第一，它只具有一定的而不是完全的自主性，它不能超出人类提供的数据、知识、信息、选择范围的限制。第二，它只具有一定的而非完全的意向性，还无法超出情境或语境理解人类行为。对于下国际象棋、玩游戏等有固定规则的简单场景，这一弱点不会暴露；但是一旦场景发生变化，机器智能将无法“思考”。第三，它只能进行简单的重复性、机械性工作，对于需要巨大创新性、创造性的工作，它无能为力。第四，机器体是物理体，而人体乃生理体，机器智能没有基于生理欲求的生命情感，难以基于特定立场作出价值判断与价值选择。比如，机器智能无法爱国、爱家、爱人类，无法坚持某种政治原则做到政治忠诚，等等。
二、立场持守：让真德育大放异彩
基于上述理解，我们对智能时代的学校德育，坚持以下三点立场：
（一）坚持科学人文主义
人类的进步发展至技术出现以后，就呈现出人与技术共同进步发展的图景，构成了“人—技术”的二维世界。在这个客观存在的世界图景中，谁是主体？谁是客体？毫无疑问，人是主体，技术是客体。无论技术如何进步，如何更新换代，如何瞬息万变，它只能是工具，只能是手段，只能为人所用，只能为人服务。近五百年来，近现代科学走出实验室，走向工业、农业等生产实践，走向政治、经济、文化等管理实践，也理所当然地也走进学校，走进教材、走进课堂、走进德育，可谓一路高歌猛进。然而，无论我们多么依赖科学，无论科学如何“攻城略地”，它同样只能为人服务，人才是科学的目的。我们不赞同科学万能论，也不认同科学无用论，我们坚持科学人文主义。智能时代，当然要一如既往地依靠科学技术、发展科学技术，但是，人类要引导科技发展，对其应用包括其教育应用保持警惕，特别是预防其被误用、滥用，要具有清醒的风险意识。对学校德育来讲，正如有论者所指出的，机器智能技术的“预设固化”机制易消解德育过程生成性，机器智能技术的“算法赋权”易扭曲德育内容供给，机器智能技术的“用户中心主义”易弱化德育引导性功能……总之，必须引导机器智能在德育中的应用，强调其人文向度，强调其伦理责任，反对盲目崇拜机器智能，反对机器智能在教育领域、德育领域的无边界使用。
（二）坚决培养数字公民
培养什么人，永远是教育的首要问题。在机器智能时代，这个问题表现为，究竟是培养数字臣民，还是培养数字公民？学校教育所培养的人是臣服于机器智能之下，还是驾驭机器智能为人服务？是满足于简单使用数字技术，还是建构与超越数字技术？
对此，我们应旗帜鲜明地给予回答：数字时代德育的核心任务是培育合格的数字公民！正如有论者指出的，对“数字公民”的理解不能局限于“技术素养”，如熟练使用设备、掌握数据、网络等能力；而更需要重视“公民素养”，如保护权利、承担责任、遵守法律规范、珍视伦理道德、具有人文关怀、发挥审美创意、推动社会文明等。[3]生活在智能时代的个人，正如生活在现代社会的个人一样，出生即获得了公民身份，是数字社会的“成员”“居民”，然而，并不等于具备了数字公民的能力和资格。公民身份出生即获得，而公民资格、公民能力却必须通过后天的学习、教育、生活、实践来获得。为此，必须在那些关系个体道德成长、社会公共道德领域、人类命运共同体的诸多领域进行深度学习、公开讨论、理性反思与生活实践，学校德育大有用武之地。
（三）坚定本真德育信心
古往今来，人类开展学校德育实践的文明史已经有数千年。环顾中外教育史，既有千教万教教人求真、千学万学学做真人的真教育、真德育，也有借教育、德育之名而行反教育、反德育之名的假教育、假德育。真德育强调以人为本，把学生放在教育的中心，假德育强调人为工具，把学生物化，当作机器；真德育坚持真心实意、真情实感，假德育奉行虚情假意、半心半意；真德育追求真知，崇尚真理，培养真善美统一的道德人，）假德育不允许学生有自己的见解，一味灌输僵死的教条，让学生盲目接受，把学生训练成机械的工具人……我们认为，至少在可以预见的将来，道德、心灵、情感、意志、自主、意向等无法被机器智能定义，无法变成冷冰冰的数据流，而这些恰恰是真教育、真德育大放异彩的地方。因为道德人是以生命欲求、生活体验、能动实践为基础的生物人、社会人、精神人的合体，而不是僵死的机器、冰冷的算法和逻辑的推理，不是物理机器体。总之，面对机器智能1时代的到来，我们既要拥抱机器智能1，承认其局部优势，也要清醒地认识其在情感态度价值观教育等方面的局限，坚定本真德育信心！
参考文献：
[1]谭维智.计算科学时代需要什么教育学[J].教育研究,2020(11):46-60.
[2]龚群.论弱人工智能体的道德性考察[J].哲学研究,2023(3):37-45.
[3]林可.超越技术素养的公民品格建构——国际数字公民教育经验及其对我国德育变革的启示[J]教育学报,2023(2):29-43.
