作者简介:

叶贞莹
华中师范大学道德教育研究所2022级博士

杜时忠
华中师范大学道德教育研究所名誉所长
摘要:
人对人的理解是道德教育的基础,不同的理解方式蕴含着不同的德育路向。如果说信息时代的德育遵循的是人本逻辑下的叙事性思维,那么人工智能时代的德育遵循的则是算法逻辑下的分格化约思维,它将人从一种无定形的、动态的、矛盾的复杂存在,化约为由行为的数据集和规范化的时空属性来定义的离散实体。算法逻辑是一种全新的道德教育底层语法,存在着比较性的价值标尺、虚拟化的道德自我和散在化的责任模式等德育风险。有鉴于此,需要建构一种叙事与分格相融合的道德教育,以动态情境标签来平衡价值标尺,以AI的可解释性来增强道德自我观照,以区块链赋能反思实践来弥合责任分散,确保人工智能时代的道德教育仍将是属人的、为人的、利人的。
关键词 :
人工智能;算法逻辑;分格化约思维;德育风险
正文部分:
人工智能呼啸而来,学校德育如何应对引人深思。德育的根本是"育人",了解德育在未来可能是怎样的,首先要了解未来的人可能会怎样,从人在未来的发展状态可以在一定程度上预测德育的未来状态。[1]把视线拉回到人本身,在人工智能发展的脉络中重新认识人,才有可能真正开启面向人工智能时代的德育变革。回归"人"的思考可以发生在多个层面:本体论层面的思考,即人工智能的出现和演进,如何改变身为"人"的内涵和意义;认识论层面的思考,即人工智能的出现和演进,如何改变理解"人"的视角和逻辑;方法论层面的思考,即人工智能的出现和演进,如何改变对待"人"的方式,等等。
正如鲁洁先生所言,道德教育的基础是人对人的理解。它强调的是多个主体间的多向交流,关注每一个个体怎样进入另一个个体之中并产生意义联结,这种意义联结正是道德关系的本质。人对人的理解的过程是一个不断发生视界融合的过程,是自我与他人(也包括作为主体的我与客体的我)视界的相互融合。[2]由于教育的社会性、目的性和发展性,以及世界的模糊性、演变性和多元性,"理解"总是"源于视角"并"面向视角"的。[3]从其"所源"的视角看,无论当前德育对人的理解与人工智能的内在逻辑是相合或是相斥,新的理解视角中都潜藏着新的风险与机遇;而从其"所向"的视角看,要想焕发德育的活力与生机,就不得不以人工智能的内在逻辑为依循,调整和改变道德教育中的理解视角,使其与人工智能时代的发展要求和前进方向相适应。技术哲学家们一直强调,人工智能不仅挑战现行的社会结构和社会关系,而且会影响人们对自我和他人的关系概念、存在样态、行为方式的理解。[4]当前教育学界对人工智能教育的伦理风险讨论虽然不少,但大都聚焦于应用伦理,未能从人工智能算法逻辑的底层原理来观照道德教育。那么,人工智能时代"人对人的理解"究竟发生了什么样的转向?这种转向给道德教育带来了什么风险?如何应对这些风险?本文试图作出尝试性回答,以求教于方家。
一、"人对人的理解"的转向:算法逻辑下的分格化约思维
正如蒸汽机在蒸汽时代、发电机在电气时代以及计算机在信息时代的地位一样,人工智能是当代及未来时代的科技支柱。[5]从最严格的定义来看,人工智能(Artificial Intelligence)是指机器或系统对人类智能的模仿,包括感知、推理、学习、计划、预测等人类思维活动。[6]换言之,人工智能不仅作为一种技术手段或者跨学科研究领域影响人们的思维方式,其本身还内嵌着一种思维方式。这种思维方式以算法逻辑为遵循,"算法"(Algorithm)是人工智能的核心。[7]所谓算法,指的是一种有限、抽象、有效、复合的控制结构,能够在给定条件下解决特定问题。[8]更普遍的一种解释是,算法指"解决问题的一系列步骤或指令"。
人工智能的算法不同于传统的算法。首先是核心驱动力的转变。传统算法以规则为核心驱动力,人类预先编写明确的逻辑步骤。而AI算法以数据为核心驱动力,它通过分析海量数据,自主学习并构建隐藏的映射关系,其决策路径可能因数据噪声、随机初始化等因素而产生不确定结果,人类往往难以完全预知或解释。其次是基于核心驱动力的转变,算法所能应对的问题域得到扩展。传统算法受限于确定的规则与逻辑步骤,无法穷尽所有可能性,难以应对实时变化,因此更适用于处理结构化问题,即具备清晰输入输出关系,可被分解为固定流程的问题。而AI算法即使面对此前从未见过的输入,也能够通过训练快速适应。可以说,人工智能的"智能"正体现在算法所具有的无限潜能中,它像真正拥有智能的人类一样可以处理直觉性任务,呈现出动态性、不确定性、自主性等特征。再次是自主进化能力的发展。传统算法的版本更新主要依赖人工迭代,需要工程师手动优化参数。AI算法具备元学习能力,在很大程度上能够实现架构自优化。
算法利用机器深度学习能力对现实生活中大量分散的、碎片化的数据进行自动化处理,提炼出信息。在此过程中,算法呈现三重逻辑:第一,隐性嵌入逻辑,即通过实时收集数据并以"持续控制形式"渗入日常互动中的微观层面,实现在社会权力结构中的隐性嵌入。第二,概率统计逻辑,即通过随机数据提取、递归分解和贝叶斯推理等方式,从海量信息中归纳局部规律,依赖多维向量空间中的距离度量与概率似然估计实现动态决策。其本质是数据驱动的概率化思维,将分散相关性泛化为大概率事件,通过机器深度学习不断优化反馈,形成自适应的问题解决框架。第三,效率主导逻辑,即以效益的最大化为核心追求,将复杂现实简化为可量化、可计算的效率指标,制定"有限、确定、有效"的解决方案。[9]在上述三种逻辑支配下,算法倾向于将人归入离散的、规范化的、非时空化和非人格化的类别,如年龄、性别、教育水平、家庭收入等。简而言之,算法将人化约为"分格",即由描述和预测其行为的数据集和规范化的时空属性来定义的离散实体。[10]
"分格"是法国哲学家德勒兹(G.Deleuze)在分析现代社会的控制方式时提出的概念。他指出,在福柯(M.Foucault)所说的纪律社会中,机构通过明确的界限和规则,将个体纳入一个固定的序列中,使其通过时间(如学校的年级制度)和空间(如工厂的车间布局)的安排进行标准化,进而形成完整的、统一的、可识别的个体身份(individuals)。而在如今的控制社会中,随着信息技术的普及和社会数字化程度的加深,传统意义上的个体(individuals)开始解体,取而代之的是一个个"分格"(dividuals)。这些分格是被不断分割和重组的数据的集合,它们被通过各种信息系统持续地监控和控制着。[11]例如,当一个人以纳税表格、人口普查记录或考试分数榜单上一组选中或未选中的方框的形式来定义自己或被他人定义时,他便成为了一个"分格"。这种控制不仅模糊了传统的个体界限,还增加了社会控制的力度。
站在人类与人工智能共生演化的节点上,审视算法逻辑的本质,正是一种分格化的思维。它重构了人工智能时代"人对人的理解"方式,将人从矛盾复杂的生命主体化约为离散可控的数据实体。这里所说的"化约",并非"分格"概念的修饰性后缀,而是指算法逻辑理解复杂对象的基本方式。它源于哲学上的化约式(Reductionism)思想,即将复杂、整体、动态的对象简化为更简洁、更容易理解的形式,并以这些部分及其组合关系来把握整体。本文所谓"分格化约思维",正是指算法逻辑通过数据化、分类化等方式,将复杂的人之存在理解为离散数据。这种新的理解方式常常表现出跨文化的普遍性,会以涟漪效应扩散至社会各个领域,从而引发伦理风险。[12]举例而言,在医疗领域,AI诊断系统将患者简化为健康指标集合,在一定程度上掩盖了患者的心理需求与对生活质量的人文关怀,导致晚期癌症患者可能被迫接受违背意愿的激进治疗,而算法黑箱更让医疗责任归属陷入困境。在司法领域,算法辅助决策系统如"用于替代制裁的罪犯矫正管理分析"(Correctional Offender Management Profiling for Alternative Sanctions,简称COMPAS)将被告降维为"风险分数",将人的未来简化为预测概率,基于历史数据的偏见和不透明程序形成对少数族裔、低收入群体的系统性歧视,从而动摇司法公正的根基。[13]可见,分格化约思维的伦理风险不在于其存在本身,而在于其与应用领域的目标和宗旨的偏离。
二"人对人的理解"的比较:叙事与分格
算法逻辑下的分格化约式理解是人工智能时代理解人的普遍方式,因而也成为理解道德教育的一种方式。人是什么,成为理解德育的关键点。如何理解人与如何理解德育在某种程度上甚至可以看作一回事。[14]将"分格化约式理解"与其他理解方式置于道德教育的本质诉求、伦理坐标和时空情境之中进行比较分析,更有利于揭示算法逻辑下对人的理解范式所发生的断裂,直观呈现其深层矛盾和潜在危机。
(一)人本逻辑下的叙事思维
在道德教育中,常见的理解方式包括以下几种:一是论辩性理解,即在语言的交锋、观点的碰撞、话语权的争夺中体验他人情感与态度,进而建立关系。作为一种思维方式的论辩能够构建出一种独特的认知框架,引导双方在对抗性互动中界定自我并编织出共享的意义网络。[15]二是仪式性理解,即将人们的注意力集中到某种共同的对象上,使他们的思想和情感在其中流转并得到强化,进而将其共同持有的观念转化为一种更伟大的道德原则或力量。[16]作为一种思维方式的仪式通过具身实践创造主体间的理解场域,生成"共在"的体验,让"理解"跳过理性分析,直达情感与身体的共识层,形成非语言的默契。三是反思性理解,即通过元认知监控和系统性回溯,解构自我与他人的认知差异、情感反应及互动逻辑,从而修正与超越之前的理解。[17]这些多样化的理解方式虽然指向了差异性的思维范式,但共同构建了道德教育的底层语法。本文选择叙事性理解作为分格化约式理解的比较对象,主要是因为二者在德育场域中的冲突最为显著,能够代表技术介入下道德教育价值基底的分野,以及算法逻辑与人本逻辑之间的核心张力。
"叙事思维"(Narrative Thinking)是一种依赖于故事结构,包括时间、空间、人物、事态变化等元素,来构建对世界的认知和解释的认知思维模式。以叙事的思维方式理解儿童,就是将儿童视为生活事件的行动者、生命历程的动态参与者,充分重视和尊重儿童的情感、意志、兴趣、需求和经验,在真实的情境中描绘儿童的发展轨迹。布鲁纳(J.S.Bruner)认为,叙事思维和儿童的心理结构既具有内在一致性,也与教育活动过程相适配,同时能够串联起社会文化背景要素。[18]儿童的行为和经历被置于广阔的社会环境和时间框架中,其意义来自于事件随着时间的推移而发生的变化。[19]这使得儿童与自我、与他人、与万物之间的思想、情感联系都得以保留。这种理解方式本质上遵循的是人本逻辑,即以现实世界中从事现实活动的人为前提,以人的活动为出发点,彻底变革依附于物或依附于他者的生存形态,摒弃人的现实的异化,提倡人的实践性、社会性、历史性、主体性,聚焦如何实现人的自由全面发展。[20]也即在人本逻辑之下,以叙事思维来表达育人内核。
(二)德育比较视野下的叙事与分格
对于道德教育而言,人本逻辑下的叙事思维允许儿童在事件中直观自己是怎么从一种存在状态转化为另一种存在状态的,以及为什么采取或没有采取某种道德行为,从而获得清晰的自我认同和独特的道德经验。教师和家长也得以进行观测和衡量,因为儿童在时间和特定情境中移动,展示着有迹可循的生活轨迹。叙事一般以时间为序,这种时间可能是线性的,但其间的道德意蕴不会被线性规限。叙事思维对人的理解从生活的连续性中产生,并且与延展的生命整体相连,因此故事中的主体所产生的道德意义呈现为诠释学上的循环结构:随着成长成熟而不断涌现的反思。叙事不只传达"发生了什么",还传达我们应该如何解读它。与此同时,在道德实践中,叙事弧线、人物行为和周围环境之间相互作用的微小变化,都会导致主体做出截然不同的道德判断,进而影响我们对故事中心人物的感受[21],正如了解了海因兹偷药的起因后,人们对他的评价可能会与从偷窃开始的故事截然不同。从叙事的角度来理解人可能会遭受缺乏解释力和普遍性方面的质疑,但是之所以关注个体的道德经历,正是因为这些经历捕捉了处于类似境况的其他人的经历,呼应了特定类型的文化背景。
不同于叙事思维或叙事性理解,对儿童的分格化约式理解则是通过一组附属于个人的数字化特征和属性,在多个维度上标记这是一个什么样的人。这种认知模式强调通过不同类型的信息,以不同的方式使儿童具有"可读性",进而促成不同风格的道德判断、推理和评价。在此过程中,儿童作为主体、作为主动行为者的生活背景被排除了,生命存在的特异性和模糊性也随之被抹去。当这些抽象概念被编入教育组织和机构的数据库时,儿童的主观经验消失了,取而代之的是可以从外部观察到的经验;动态性和发展性退居次要地位,而持久性和稳定性变得突出。从某种意义上说,通过搁置时空状态,用分格的方式来呈现儿童可以促进对儿童的同步理解,降低大规模比较的成本,并且避免引入额外的偏见。但与此同时,道德判断中的同情性考虑也被消减了。不同的分类和组合使得儿童个体在不同的数据库中扮演着几乎无限多样的角色。儿童与儿童之间仍然存在巨大差异,但这种差异本身却被同质化了。也就是说,人们是不同的,但他们是以标准化的方式不同的。
从某种意义上说,叙事理解通过赋予个体叙述者与建构者的身份,使自我认同的形塑过程转化为一个持续不断的生命故事创作实践[22];分格理解则将复杂的主体存在化约为特定属性的集合体或特征向量的排列组合。不同的理解方式本身所具有的不同的道德含义,指向了差异化的德育本体论、认识论基础。那么,把人以分格化约的方式加以理解有怎样的风险,建立在算法逻辑之上的德育图景是什么样的呢?
三、算法逻辑蕴含的道德风险
固有的黑箱特性、独特的运作程序使得算法的风险迅速在社会中弥散,在跨文化领域中迁移。算法与教育的结合引发了多维度的理论担忧与关切:在技术层面,隐私侵犯、信息茧房、算法歧视、数字鸿沟[23]等问题持续发酵;在关系层面,情感消解、角色偏差、主体退隐、权力让渡[24]等矛盾日益凸显;在意识形态层面,把关转移、权威失落、价值失序、价值区隔、价值分化[25]等矛盾不断加剧。与这些理论关切相比,算法逻辑下"人对人的理解"方式的转变是一个更具先在性的问题,涉及道德教育底层语法的重塑。这可能会带来比较性的价值标尺、虚拟化的道德自我和散在化的责任模式等德育风险。
(一)比较性的价值标尺
在对个体或群体进行道德方面的推理、判断、评价时,人们既关心比较性标准,也关心非比较性标准。例如,我们希望破坏公物的同学受到惩罚、爱护环境的同学得到表扬;与此同时,我们也希望对于犯了同样错误的学生,无论其成绩、家世、人缘如何,都应受到同等的惩处。就像费恩伯格(J.Feinberg)所说的:"在所有情况下,公正都意味着给一个人他所应得的。但在某些情况下,一个人的应得是独立于其他人来确定的;在另一些情况下,一个人的应得只能参照他与其他人的关系来确定。"[26]对人的不同理解方式会改变比较性与非比较性标准在人们内心价值标尺两端的权重。
算法逻辑下对人的分格化约式理解加重了价值标尺中比较性一方的砝码。一方面,只有以抽象和形式化的方式远距离"看"人,系统地剥离有关主体意图、情感和动机的信息,以及不同事件之间的联系,只保留个体间的共同属性并将注意力集中在一系列标准化的、无语境的特征上时,人与人之间的比较才变得可能。无论是民族国家,还是其内部的官僚机构,许多现代社会组织的决策建议,都来源于不同分格之间的大规模的比较:在与其他相似或不同的人过去行为的比较中找出相同点和不同点,然后当新的目标对象出现时,假定他们的模式将以同样的方式与结果产生关联。事实证明,这对于保障和提高大型组织的工作效率而言是至关重要的。[27]另一方面,将人视为数据库绑定的对象,这种根据属性相似性和差异性对人进行排序与分档的分类体系,提供了一种道德上的可比性,因其已经预先将人变成了可以进行比较的样子。于是,个体不知不觉间会倾向于进行比较性的道德推理、判断和评价。也就是说,算法本身具有意识形态倾向性,是价值关涉的,会引导人们在其设定好的方向上思考和行动。
(二)虚拟化的道德自我
诺丁斯(N.Noddings)认为,道德自我(moral self)是"从"实在自我'到关心他人和被关心的'理想自我'的转化中的一种积极关系。它建立在对人的相互关系性的基本认可的基础上。这种相互联系性自然而然地将我跟他人连在一起,并通过他人把我跟我自己重新联系在一起"[28]。这涉及一个人是谁以及如何行动[29],被许多学者视作把握人类道德功能复杂性的关键。[30]在杜威(J. Dewey)的伦理学中,对道德自我的分析是不能脱离特定的道德情境的。[31]从情境的构成要素上看,道德自我在规定性上的表现大致可以概括为:时间中展开的绵延同一、身与心的紧密结合以及主体与外部环境之间的有机互动。[32]沿着这一思路推进可以发现,算法逻辑下对人的分格化约式理解重塑了一种虚拟化的道德自我新形态。
第一,从空间上看,算法逻辑下的道德自我是在二维平面空间中的一系列数据的排列组合。由于算法会过滤信息,又有高带宽,能够营造出一种强烈的"当下感"。[33]因此,算法将个体锚定在其数字行为空间的中心位置,进而将数字行为空间内在地建构为个体自身行动的空间。然而事实上,体感、平衡感和空间自我知觉与生物身体很难彻底分离。[34]尽管算法不断向个体传达"你在这里"的空间知觉,但此时的具身性依旧是虚拟的,难以成为个体生命体验中的一部分。这种割裂会导致深层的认同危机,因为地点认同(place identity)是人的自我认同的亚结构,如果个体弄不清楚自己是属于哪里的、什么是属于自己的,也就弄不清楚自己是什么样的人。[35]
第二,从时间上看,算法逻辑下的道德自我是由散布的点、关联和动态增长所定义的。个体的道德行为和道德发展水平存在于表格之中,被连续的复选框记录和追踪。换言之,人们不是作为"活生生"的人的存在来进行定义和重塑自己的行为和生活方式,从而实现某种道德的理想状态的,而是作为"数据流中的节点"在进行道德建构。随着数据库的实时重建,个体对时空变化的感知会变得模糊和延迟。[36]虽然"体验"可能越来越丰富,但生动的"经验"却不会随之增加。
第三,从关系和行动上看,算法以分格的形式在一定程度上预设了自我身份的构成框架。算法催生的信息茧房将个体禁锢在数字交往空间的同质化信息中,迫使其选择性理解、选择性记忆与选择性接触"他者",实质上剥夺了个体在社会交往中直面善恶抉择的道德契机。[37]于是,当我们宣布要寻找"志同道合"的好友时,分格式自我会从预设的兴趣标签数据库中筛选匹配对象,我们只能与那些被归入相同数据类别的人建立友谊。当我们要进行道德判断或采取道德行为时,所面临的也是相同的境遇。这固然会提高行事效率,但却削弱了人们彼此之间建立实质共鸣的可能性。
(三)散在化的责任模式
从时间的维度上讲,责任分两种。一是"历史性责任",即面向过去的,指对已经发生的行为和事件的追溯,其核心概念是问责、追责和补偿等;二是"前瞻性责任",即朝向未来的,指个体对随后的行为或尚未发生但可能发生的事件有所预期并自愿承担的积极态度。[38]算法对人的分格化约式理解会改变道德责任分配方式,导致责任归属模糊、被动和分散。
一方面,在算法逻辑驱动的系统中,决策过程隐藏在复杂的数据处理和模型运算之后,"黑箱"特性加重了历史性责任追溯的难度。算法逻辑下散在化的责任模式在某种程度上是"数据依赖下的道德冷漠或道德推脱",人们会声称自己只是在执行预定程序或遵循数据驱动的指示,而非做出实际的道德选择。
另一方面,对于前瞻性的道德责任而言,算法将复杂的人类属性和行为简化为可量化和可计算的数据点,会使某些社会经验显而易见,同时遮蔽其他经验,引导获取资源和评价的模式。在前瞻性意义上,责任更多地被理解为一种态度而不是义务,当主体失去主动承担的态度时,履责将不再具有积极的道德意义。[39]这不仅会固化功利性的评价标准,还迫使个体用扁平、单薄、剥离的视角审视自我与他者,陷入"以管窥天"的认知困境。这是一场静默的权力转移,人类的判断权与选择权正在让渡给算法代理,而伴随权力转移的,是道德责任的实质性消解。当然,这种责任模式并非全无益处,它可以在某些情况下减轻或消除悲剧性道德选择情境造成的心理负担。[40]
四、道德教育的应对:叙事"合"分格
如前所述,对人的分格化约式理解可能会带来非预期的德育风险,但这并不意味着它的出发点和落脚点全都是对人性的压抑、贬斥。至少在教育领域,算法的应用背后充满着美好的愿景。人们期待利用算法来制定个性化学习方案、关注学生的核心素养和全面发展、助力教师的角色转变等等。然而,在实践过程中,算法对人之本质的遮蔽以及对德性的消解是客观存在的风险。为此,需要建构一种叙事与分格相融合的道德教育,在人、教育与人工智能的复杂互动中寻找三者之间的动态平衡与协同发展。
(一)为何要叙事"合"分格
人类的文明演进与教育实践始终是连续性与发展性的辩证统一,新技术催生的认知方式、思维范式革新是根植于既有文明土壤的创造性转化。面向人工智能时代的道德教育也是如此,它既不能全盘拒斥人工智能的算法逻辑,亦不能彻底颠覆传统的人本逻辑,而是要在算法介入的语境下,坚守德育对人性整全性的永恒追求,对"如何理解人"这一根本命题做出新的回应。与此同时,"分格化约式理解"与"叙事性理解"是两种不同的逻辑在德育场域中的核心张力的具象化呈现。没有哪一种理解方式是完美的,将人理解为叙事中的行为者保留了个体的生活的整体视图,赋予理解以动态性。但是基于叙事的理解往往缺乏系统的标准和程序,难以提取明确的、可操作性的见解,易造成先入为主的歧视与偏见。将人理解为离散的、标准化的、非情境性的分格有利于跨维度的比较,提高评估、管理、决策过程的效率和信效度。但是分格化约式理解又使人沦为"数据流中的节点",带来了道德自我的虚拟化、价值标尺的比较化、责任模式的散在化等危机。不同的理解方式不可避免地存在片面性和局限性,绝非相互排斥或非此即彼的关系,因此必须融合各自的优势,形成对人之存在的更为完整的把握[41]。正如美国社会学家鲍克尔(G.C.Bowker)和斯塔尔(S.L.Star)所说,对人的不同分类对其试图描述的社会世界具有道德和伦理影响,因为"每一个分类都赞扬某种观点,同时压制另一种观点"[42]。当我们以某些方式而非其他方式对人进行区分时,我们正在为特定形式的包容与排斥、好与坏、善与恶以及其他的道德选择和结果奠定基础。
(二)如何使叙事"合"分格
合理的道德判断必须建立在道德上值得尊重的价值观和对相关事实的全面认知的基础上"[43],融合不是将两种观点或视角进行简单汇总和整理,而是强调二者之间的相互结合和渗透,在深度整合中生成积极的协同效应。
首先,以动态情境标签来平衡价值标尺。分格化约对比较性价值标尺的强化并非技术必然,而是设计选择的结果。生成行为发生的"动因-情境"图谱是应对风险的第一步:在学校现用的在线学习平台或电子档案系统中搭载或激活前沿的自然语言处理工具,辅以传感器设备。一方面可以提取师生言行中的关键信息,并将其与分格层的信息链接起来,帮助教师快速定位问题;另一方面可以将已经分格化的学生形象转化为动态生活经历,帮助教师理解数据背后的意义,避免无差别对标和单一归因。除此之外,还需要对评价指标进行动态权重分配。一方面,建立情境权重表,标注不同情境对学生的行为解释力的影响,使算法在进行评价时考虑情境因素;另一方面,在道德评价模型中增加个体适应性指标,如学生的进步率。在双管齐下,以情境的重构化解分格式比较的过程中,德育将重新锚定其诉求-不是筛选"达标者",而是培育"整全人"。
其次,以AI的可解释性来增强道德自我观照。算法逻辑下个体的道德自我面临着在日常生活中切换不同身份所引起的多元道德选择与价值冲突的难题,以及在虚拟与现实之中的数字身份与实体身份之间转换的困境。如何强化生命实体在虚实生活中的主体地位,以自我整体性全貌的省思挣脱程序理性的束缚?[44]人工智能的可解释性(Explainable Artificial Intelligence,简称 XAI)带来了解决方案。XAI是一个旨在使人工智能系统的结果更容易理解的研究领域。[45]在学生管理系统中嵌入XAI,允许学生通过浏览器查看AI替自已生成的行为分析逻辑链,站在他者的视角从外部审视自身的行动及其背后的动机,从而对算法的功能和意义进行祛魅,并且在社会系统中重新确定自我。不仅如此,决策树和集成模型作为XAI的重要实现手段,为个体带来了思维层面的启发。决策树的每个节点对应一个二元或多元选择,可帮助显化隐含的价值排序。而随机森林的多样性又可以缓解单一伦理框架的局限性,实现与他者的道德对话。
再次,以区块链赋能反思实践来整合分散责任。责任的本质通常涉及人与人之间的各种关系。[46]从这一角度来看,算法逻辑下个体散在化的责任模式在一定程度上是"虚拟化的道德自我"的连带效应。为此,引入区块链赋能的道德反思实践是一种可行的改善方案,因为善于反思的人是"一个能够与他人建立联系的人"[47],而区块链技术特有的不可篡改性、可追溯性和去中心化协作机制[48],能够将道德行动的关键环节从个体主观陈述转化为具有社会共识的技术事实,从而促使抽象的道德原则转化为可验证、可执行的社会行动。这种"赋能"体现在以下几个方面:一是可以将学生道德行为数据(如志愿服务记录、奖惩信息)和教育决策数据(如资源分配)加密后上链存证,记录算法推荐、教师调整、学生反馈的全流程,教师可通过权限查询完整责任链条,打破算法黑箱所导致的责任推诿困境。二是可以在链上预置道德规则的决策系统,通过多节点验证,让学生直观了解"在面对道德难题时,进行不同的道德决策,会产生怎样不同的社会后果"。三是当教师要建立跨角色的道德反思共同体,围绕算法决策案例或道德难题展开公共辩论时,区块链能够帮助构建"集体道德记忆库",使这种辩论的影响得到存续,使个体行为与集体记忆产生持续互动,最终实现道德内化与自我进化。引入区块链赋能的道德反思实践为道德责任这种"不可言说之物"提供了新的技术存在空间。
叙事与分格深度融合的道德教育,允许我们通过对一系列关键事件序列的追踪,去见证学生整体是如何敞开的,又是如何内立于这种敞开域中并在其间自行变化的。这避免了单纯按照算法预设的性质、固化的处境或碎片化的个体样本来理解、感知和概括学生。面对智能化、信息化、数据化高度叠加的人工智能时代,未来的德育探索需在技术深嵌的现实中重构"人对人的理解"。
参考文献:
[1][14]冯建军.教育的人学视野[M].合肥:安徽教育出版社,2008:48-49.
[2]鲁洁.人对人的理解:道德教育的基础-道德教育当代转型的思考[J].教育研究,2000(7): 3-10.
[3] Moser,C., Den,H. F., & Lindebaum, D. Morality in the Age of Artificially Intelligent Algorithms[J]. Academy of Management Learning & Education, 2022(1): 139-155.
[4] Löhr, G. Conceptual Disruption and 21st Century Technologies: A Framework[J]. Technology in Society, 2023(3):102327.
[5] Jiang, Y., Li, X., Luo, H., et al. Quo Vadis Artificial Intelligence? [J]. Discover Artificial Intelligence, 2022(1):4.
[6] Sheikh, H., Prins, C., & Schrijvers, E. Artificial Intelligence: Definition and Background[A]. Mission AI: The New System Technology[C]. Cham: Springer International Publishing, 2023: 15-41.
[7] Marczak, J., Wistow, G., & Fernandez, J. L. Ready, Willing and Able? Local Perspectives on Implementing Prevention in Social Care in England[J]. The British Journal of Social Work, 2024(3): 1297-1318.
[8] Hill, R. K. What an Algorithm Is[J]. Philosophy & Technology, 2016(1):35-59.
[9]郑智航.人工智能算法的伦理危机与法律规制[J].法律科学(西北政法大学学报),2021(1):14- 26.
[10][22][荷]马克·舒伦伯格,里克·彼得斯.算法社会:技术权力和知识[M].王延川,栗鹏飞,译.北京:商务印书馆,2023:2-4,42.
[11] Deleuze, G. Postscript on the Societies of Control[A]. Wilson, D. & Norris, C. (Eds.). Surveillance, Crime and Social Control[C]. London: Rouledge, 2017: 35-39.
[12] Hoster, J. The Ethics of Disruptive Technologies: Towards A General Framework[A]. de Paz Santana, J. F., de la Iglesia, D. H., & López Rivero, A. J. (Eds.). New Trends in Disruptive Technologies,Tech Ethics and Artificial Intelligence[C]. Cham: Springer International Publishing, 2021: 133-144.
[13]陈杰.宪法平等框架内的算法公平标准与价值权衡问题-兼论COMPAS算法公平争议的启示 [J].浙江社会科学,2023(7):51-61.
[15]顾尔伙.人类心智的"论辩性"及其培育[J].华东师范大学学报(教育科学版),2016(1):38-44.
[16][美]兰德尔·柯林斯,迈克尔·马科夫斯基.发现社会:西方社会学思想述评(第8版)[M].李霞,译.北京:商务印书馆,2014:168-169.
[17][美]约翰·杜威.思维十八讲[M].北京:新世界出版社,2023:3-15.
[18] Bruner, J. S. Actual Minds, Possible Worlds [M]. Cambridge, MS: Harvard University Press, 2009:11 13.
[19] Bruner, J. S. Acts of Meaning: Four lectures on Mind and Culture [M]. Cambridge, MS: Harvard University Press, 1990: 67-77.
[20]金昕,周明鹏.从资本逻辑到人本逻辑:精神生活共同富裕的历史性超越[J].南昌大学学报(人文社会科学版),2024(6):37-47.
[21] Monroe, A. E. & Malle, B. F. Two Paths to Blame: Intentionality Directs Moral Information Processing Along Two Distinct Tracks[J]. Journal of Experimental Psychology: General, 2017(1):123-133.
[23]陈启迪.人工智能嵌入高校思想政治教育的技术风险及应对策略[J].学校党建与思想教育,2022 (9):78-81.
[24]冯建军.网络公民教育:智能时代道德教育的新要求[J].伦理学研究,2022(3):1-9.
[25]张林.智能算法推荐的意识形态风险及其治理[J].探索,2021(1):176-188.
[26] Feinberg, J. Noncomparative Justice[A]. Sadurski, W. (Ed.). Justice[C]. London: Routledge, 2017: 41-82.
[27] Shrestha, Y. R., Ben-Menahem, S. M., & Von Krogh, G. Organizational Decision-Making Structures in the Age of Artificial Intelligence[J]. California Management Review, 2019(4): 66-83.
[28] Noddings, N. A Feminine Approach to Ethics[M]. Stanford, CA: Center for Research on Women, Stanford University, 1985: 49.
[29] Jennings, P. L., Mitchell, M. S., & Hannah, S. T. The Moral Self: A Review and Integration of the Literature[J]. Journal of Organizational Behavior, 2015(S1): S104-S168.
[30] Treviño, L. K., Weaver, G. R., & Reynolds, S. J. Behavioral Ethics in Organizations: A Review[J]. Journal of Management, 2006(6): 951-990.
[31] Pappas, G. F. Dewey's Ethics: Morality as Experience[A]. Hickman, L. A. (Ed.). Reading Dewey: Interpretations for A Postmodern Generation[C]. Bloomington, IN: Indiana University Press, 1998: 100- 123.
[32]杨国荣.论道德自我[J].上海社会科学院学术季刊,2001(2):155-164.
[33][34][德]托马斯·梅辛格.自我隧道:心灵科学与自我神话[M].马健,译.北京:北京大学出版社,2023:123,285.
[35]高德胜.道德教育的30个细节[M].北京:中国人民大学出版社,2018:166-167.
[36]汪雅倩.接管空间、对抗规则与建构仪式:大学生对手机的课堂驯化实践[J].中国青年研究,2023 (3):90-99.
[37][44]杨慧,王艺霏.数字社会中的道德空间:图景、拆解与重构[J].中国特色社会主义研究,2024 (1):43-55.
[38] Cane, P. Responsibility in Law and Morality[M]. Oxford: Hart Publishing, 2002: 31.
[39] Gorgoni, G. Stay Human. The Quest for Responsibility in the Algorithmic Society[J]. Journal of Ethics and Legal Technologies, 2020(1): 31-47.
[40] Munch, L., Mainz, J., & Bjering, J. C. The Value of Responsibility Gaps in Algorithmic Decision- Making[J]. Ethics and Information Technology, 2023(1):21.
[41]何婷婷.对人的本质的理解与超越再阐释[J].大庆社会科学,2023(5):34-40.
[42] Bowker, G. C. & Star, S. L. Sorting Things out: Classification and Its Consequences[M]. Cambridge, MA: MIT Press, 2000.
[43] Gunsteren, H. The Ethical Context of Bureaucracy and Performance Analysis [A]. Kaufmann, F.-X. (Ed.). The Public Sector: Challenge for Coordination and Learning[C]. Berlin: Walter de Gruyter, 1991:309-324.
[45]郑飞,朱溯蓉.人工智能"可解释性"的两个维度及其适用[J].大连理工大学学报(社会科学版), 2025(2):80-87.
[46] Maak, T. & Pless, N. M. Responsible Leadership in a Stakeholder Society-A Relational Perspective [J]. Journal of Business Ethics, 2006, 66: 99-115.
[47] Garrety, K. H. Organisational Control and the Self: Critiques and Normative Expectations[J]. Journal of Business Ethics, 2008, 82: 93-106.
[48]邵奇峰,金澈清,张召,等.区块链技术:架构及进展[J].计算机学报,2018(5):969-988.