“懂得”的幻觉:当人工智能替我们学习
你所发明的这帖药,能医记忆,却不能益智;因学习者借助于外部的符号,而不凭自身回忆,故其所获并非真理,而是真理之影;他们闻之多矣,却一无所学;似无所不知,实一无所知。 ——柏拉图《斐德罗篇》,苏格拉底转述塔穆斯对文字的批评
柏拉图笔下的这段责难,针对的是书写技术本身。两千四百年后,同样的忧虑被移置到人工智能之上:当一个外部系统可以随时替我们存储、检索、乃至生成理解,人的心智究竟是随之增强,还是悄然萎缩?这一问题并非新近出现,但大语言模型赋予了它前所未有的紧迫性——因为此前的认知技术主要替代的是记忆与计算,而当前的模型开始替代推理本身。
本文拟从三段第一人称的学习经历入手,将其置于认知科学的框架内加以检视,进而对"借助人工智能学习"这一行为的实际效果与潜在代价作出判断。需要先说明的是,下文并不主张弃用人工智能;其旨在于辨析,在何种条件下,这种工具促进学习,又在何种条件下,它以学习的表象掩盖了学习的缺席。
一、案例与共同变量
先考察三段具有可比性的学习经历。
第一例为借助多邻国学习德语。学习者利用碎片时间持续打卡,于短期内入门并达到欧洲共同语言参考标准(CEFR)的 B 级;然而课程更新停滞且日常缺乏使用语境,所学内容在数月内显著遗忘。
第二例为借助 NotebookLM 阅读 Raschka 所著 Build a Large Language Model (From Scratch)(Raschka, 2024)。该工具提供了近似于随时在线的答疑环境,使学习者得以迅速通读全书;但数月之后,对核心内容的留存几近于无。
第三例为阅读 Deisenroth 等人所著 Mathematics for Machine Learning(Deisenroth, Faisal & Ong, 2020)。前半部分采用手工翻译、逐句推证的方式;后半部分转而借助模型翻译,并于遇到疑难时优先向模型求助。结果是,前半部分的理解明显更为扎实,后半部分则仅余模糊印象。
三段经历分属语言习得、工程读物与数学教材,彼此领域悬殊,却共同受制于一个变量:学习者在理解过程中自身所承担的认知劳动的比重。德语之遗忘,源于缺乏使用与强化;工程读物之速朽,源于过程过于顺畅、过于被动;而数学教材前后两半的落差,恰恰产生于手工翻译所要求的那部分劳动,在后半部分被模型所替代。换言之,三例共同指向一个与直觉相悖的模式——学习过程越是省力、越是迅捷,长时保持越是稀薄,理解越是肤浅。要解释这一模式,须先回到一个更基本的问题:学习在认知系统中究竟如何发生。
二、学习的认知机制:作为副产品的习得
日常观念常把学习理解为信息的搬运:将书本或他人口述的内容转移至脑内,转移得越快越多,效率便越高。这一"存储"模型已被半个多世纪的认知研究证伪。学习并非被动的录入,而是认知结构在特定操作下的重组。
从神经层面看,记忆与技能并不存放于某一处,而是分布于神经元之间连接强度的分布之中。赫布(Hebb, 1949)所提出的法则——共同激活的神经元之间形成并强化连接——概括了这一过程的物理基础:每一次主动而深入的神经活动,都在加固相应的回路;一旦此类活动被外部代理所省略,回路便得不到强化,并随时间而衰减。由此可以引出一个无法回避的推论:构成能力增长的那一部分操作,必须由学习者自身的神经系统来执行;外部工具可以供给信息与反馈,却无法代为完成这一塑形过程。
这一推论得到了神经科学实证的支持。Maguire 等人针对伦敦出租车司机的研究发现,为通过以记忆全城街道著称的 "The Knowledge" 考试而长期训练者,其后部海马体体积显著大于常人(Maguire et al., 2000);相应地,Hou 等人于 2020 年发表于《自然·科学报告》的研究显示,长期依赖 GPS 导航者的空间记忆成绩明显更差。导航能力一旦被设备接管,与之相关的神经回路即趋于退化。能力外包至何处,何处的能力便开始让渡。
进一步的问题是,究竟是哪些认知操作能够产生学习。已有研究相当一致地分离出若干关键机制:其一为生成效应(Slamecka & Graf, 1978),即由学习者自行产出答案,较之阅读现成答案,其保持显著更佳;其二为测试效应(Roediger & Karpicke, 2006),即被迫的提取(retrieval)比重复阅读更有助于长期保持;其三为加工层次效应(Craik & Lockhart, 1972),即语义层面的深度加工比字形、语音层面的浅层加工留下更持久的痕迹;其四为合意困难(Bjork & Bjork, 2011),即适度的延迟、间隔与交错,虽使当下习得更慢、更费力,却换来更为牢固的长时掌握。
这些发现汇聚于同一个结论:使当下学习更为费力的操作,往往正是使长期保持更为牢固的操作。学习本质上是认知系统在生成、提取、挣扎与纠错之中被动的自我重组;费力的程度并非学习所需支付的额外代价,而是学习得以发生的条件本身。由此可以进一步推论:任何外部工具,若替代了生成、提取、深度加工或合意困难中的任何一环,便会在相应程度上削减学习。三段案例所共同呈现的,正是这一推论的经验表现。
三、认知负荷的盲目削减
那么,人工智能在这一图景中究竟居于何种位置?需要指出,问题并不在于它给出的答案有误——其答案往往准确而清晰——而在于它削减认知负荷的方式缺乏区分度。
Sweller 的认知负荷理论将工作记忆的负担区分为两类(Sweller, van Merriënboer & Paas, 1998)。其一为多余负荷(extraneous load),指与学习目标无关、仅因材料组织不良而耗用心智资源的负担,如术语未加界说、信息组织混乱等;此类负荷理应予以削减。其二为合意负荷(germane load),指用于建构与整合图式的心智投入,亦即学习本身所对应的加工;此类负荷不仅应当保留,而且在合理范围内应予增加。优秀教材与教师的共同特征,正在于削减前者而保留乃至引导后者。
当前的人工智能助手在运作逻辑上恰好相反。它对所有构成困难的对象一律加以消解:术语晦涩则径行翻译,推证冗长则直接给出结论,概念缠绕则改以浅白语言重述。其结果是整体性地压低了使用者的认知负荷,却无力辨别所压低的部分究竟属于噪声抑或信号。当它把一道数学命题转译为流畅的日常语言时,连同被一并压低的,正是学习者本须亲自走完的那一段合意负荷——而这一段负荷,恰恰是达成数学理解的唯一通路。前述数学教材前后两半的差异,即可由此得到解释:手工翻译所要求的查考、拆解与反复推敲,表面低效,实则尽属合意负荷,在脑中织成了一张致密的理解网络;而借助翻译与答疑的后半部分,虽削减了多余负荷,却也同时削减了合意负荷,使用者获得了一份通顺的讲义,却未曾获得理解。
由此可以提出一个或许有悖常识、却逻辑自洽的判断,不妨称之为"帮助的悖论":使人工智能助手成为"好助手"的全部品性——即时作答、表述清晰、替使用者省去麻烦——恰恰是使其成为"坏教师"的全部品性。有效教学的特征,并非将答案预先咀嚼后递送,而是迫使学习者自行趋近答案;苏格拉底从不径直回答,费曼亦以"能否向外行讲清"作为理解与否的判据(Feynman, 1985)。在此意义上,真正的教学必然带有某种结构性的"不配合"。然而,现行的大语言模型经由人类反馈强化学习(RLHF)而被训练为一个高度配合的系统,其优化目标是令使用者满意,而令使用者满意最经济的途径,正是降低其痛苦、加快其进度、将答案置于其眼前。于是出现了一种目标层面的冲突:模型所被优化的"乐于助人",与教育所要求的"适度施压",在方向上并不一致。使用者越是感到省力、感到流畅、感到"已然理解",其经历学习失败的可能性反而越大。
乔布斯曾将计算机喻为"大脑的自行车"(Jobs, 1980)——自行车不同于轮椅,它并不代步,而是放大骑行者自身的力量。这一隐喻若移植于人工智能,则揭示出一个比其原意更为尖锐的问题:同一件工具,究竟是自行车还是轮椅,取决于它在认知流程中介入的位置。当模型介入的环节是使用者本已熟练、仅嫌缓慢的部分(如检索某一公式、确认某一史实、清理冗余表述),它发挥的是自行车式的放大作用,使用者仍在思考,只是效率提高,此类外包是安全而合理的。当模型介入的环节是学习者本应自行挣扎方能生成能力的部分(如推证、论辩、将模糊直觉锤炼为精确理解),它所发挥的则是轮椅式的替代作用,使用者由此跳过了本该承担的锻炼,相应的能力回路趋于萎缩。区分二者的判据并不复杂:此一环节,使用者所求者是完成任务,还是生长能力?若为前者,外包无碍;若为后者,则模型越是急于代劳,使用者越应主动将其延后。
四、理解的错觉:流畅性与解释深度
前节解释了人工智能何以使人学得肤浅,本节将进一步处理一个更为隐蔽的现象:学习者何以在学得肤浅之时,反倒自以为学得深入。
人对自身是否理解某一内容的判断,并非依据客观检验,而是依据一种被称为加工流畅性(processing fluency)的直觉感受。当一段文字读来顺遂、某一解释听来合理,认知系统便产生一种"已然理解"的舒泰之感。人工智能正是制造此类流畅感的擅长者:其表述逻辑清晰、措辞工整、举例贴切,使用者读之,流畅性骤升,"理解"的信号随之触发。然而需要辨明,此时所体验到的,是阅读他人成品的流畅,而非自行重建知识的流畅;二者在主观感受上难分彼此,在认知机制上却判然有别,前者属于消费,后者方属掌握。
罗森布里特与凯尔(Rozenblit & Keil, 2002)所揭示的"解释深度错觉",恰可说明这一机制:人倾向于高估自身对事物运作机制的理解,直至被要求具体说明,方察觉其实无从讲清。模型则把这一错觉放大——它代替使用者把所有"讲不清"之处尽数讲清,于是使用者永远无须面对自身并未理解的时刻,亦因此无从获得纠偏的契机。
2025 年,麻省理工学院媒体实验室的 Kosmyna 等人发表了一项历时四个月、篇幅近两百页的研究,题为《你的大脑与 ChatGPT:使用 AI 助手时累积的认知债》(Kosmyna et al., 2025)。研究者令被试在三种条件下撰写文章——纯凭自身、借助搜索引擎、借助 ChatGPT——并以脑电图全程记录其神经活动。主要发现可概述如下。其一,借助 ChatGPT 的被试大脑参与度最低,在神经、语言与行为三个层面上均落后于其余两组。其二,其大脑功能性连接显著更弱。其三,被试对所成文章的归属感与拥有感明显更低。其四,尤为值得重视的是实验末尾的一次条件互换:此前始终借助 ChatGPT 的被试,于最后一轮改回纯凭自身写作,其神经连接仍弱于自始至终独立完成者。研究者将这一现象命名为"认知债"(cognitive debt),意指长期依赖外部模型所累积的认知亏空,并不会因一时改弦更张而立即清偿。诚如作者所言,大脑在使用大模型之后或之中,皆不会表现得更好。
"认知债"一名颇为精当。前述工程读物的速朽、数学教材后半部分的模糊化,其性质皆可由此得到重述:学习者并未真正完成习得,而是将理解这一任务先行赊欠;模型把账面做得颇为可观,本金却从未入账,利息则在暗处累积。
至于学习者不珍视未经努力而获得之物这一直觉,心理学中亦有相应佐证。诺顿等人所发现的"宜家效应"(Norton, Mochon & Ariely, 2012)表明,人对自身参与组装的产物会赋予显著更高的估价。此一原则同样适用于知识:亲手翻译、反复推证所得的理解,因伴随着查考、困顿与顿悟,被认知系统标记为"己出",从而得到长期保管;而由模型代劳所得者,则如他人代为装配的成品,使用者既不珍视,亦难持久留存。这并非惰性,而是认知系统长期演化而成的经济原则:唯有付出相当代价获取者,方值得长期储存。
五、遗忘的加速:四重机制
理解的肤浅是第一重代价,保持的稀薄是第二重。后者由四重相互叠加的机制共同造成。
其一,编码强度不足。如前所述,唯有深度加工方能留下稳固的记忆痕迹;模型所提供的答案多停留于阅读层面,神经活动趋于浅层,依据加工层次理论,浅加工对应弱编码,弱编码对应快速遗忘。
其二,缺乏提取练习。模型惯于径直给出答案,使用者因而鲜少被置于必须自行回忆的境地;而测试效应所揭示的,正是主动提取本身对记忆的加固作用。向模型发问百次,其效或不及迫使自身默写一次。
其三,线索网络稀疏。长时记忆并非孤立条目的堆叠,而是悬挂于一由情境、情绪与挣扎细节所构成的线索网络之上。手工查考时所记住的某一冷僻例证、困顿三小时而后领悟的某一瞬间,皆为日后唤回该知识所凭借的线索;模型所提供的答案则因其干净而去情境化,在使用者脑中无所挂搭,易于遗失。
其四,外在记忆的外溢。Sparrow、Liu 与 Wegner(2011)发表于《科学》的研究表明,当人预期某一信息可经由外部检索获得时,认知系统会系统性地倾向于不记忆信息本身,而仅记忆其所在之处;互联网在此意义上构成了一个外在的交互记忆伙伴。模型将此一效应推向极处:既然随时可得讲解,何须自行记取。于是认知系统干脆地将内容卸载至工具之中,仅保留"问模型即可"这一索引。前述德语之迅速流失,亦是缺乏使用与强化所导致的用进废退,与"反正查得到"之外溢效应的叠加。
四重机制叠加,其结果便是前文所述之现象:习得甚速,遗忘亦甚速。盖因所谓"甚速"本非习得,而是一次流畅的消费。
六、可外包与不可外包:知识的层级
行文至此,须避免得出一个廉价而失当的结论,即人工智能有害而当远避。此一判断既不诚实,亦不准确。前文亦已承认,人工智能确实扩展了人的诸多能力。真正有用者并非回避,而是依据知识的性质作出区分。
不妨将知识设想为一个由下而上的抽象阶梯。其底层为程序性与事实性的内容,诸如某一接口的参数、某一历史事件的年代、某段代码的语法、某种格式的转换。此类内容属于"查得即用"的零配件,可以放心外包;将之交付模型或搜索引擎,所节省的工作记忆恰可用于真正的思考,其所削减者实为多余负荷。这正是程序员借助代码补全处理样板代码、学者借助模型校勘参考文献的合理性所在。
其顶层则为原理性与生成性的能力,如数学推理、第一性原理思考、将模糊问题形式化、自行提出并检验假设等。此类能力并非零配件,而是整个认知系统的承重结构;其特殊性在于,它们正是使用者据以判断模型答案之正误、据以提出恰当问题、据以在模型失效时仍能自立的基础。由此可引出一条判别原则:具体的知识点大抵可以外包,而判断、推理与质疑这一整套底层能力则不可外包,因为它是使用一切工具——模型亦在其中——的前提。一旦将其外包,使用者便丧失了甄别模型输出的能力,沦为后者的被动接受者。正因如此,依赖模型学习数学一事尤其值得警惕:数学并非一门可孤立看待的知识,而是思维的底层结构,对其浅尝辄止,等于系统性地削弱了理解世界的认知基础。
据此可列一简表,以示外包与否的判别:
| 知识类型 | 实例 | 能否外包 |
|---|---|---|
| 程序性 / 查询性 | 接口语法、史事、公式速查 | 可以,发挥自行车式放大作用 |
| 解释性 / 导览性 | 概念入门、领域概览 | 可作地图,不宜作终点 |
| 推理性 / 生成性 | 推证、证明、论辩、原创写作 | 不宜,属轮椅式替代 |
| 元认知 / 批判性 | 判断正误、提出问题、自我检验 | 不宜,为一切工具使用之根基 |
把握此一分界,使用者方能在得心应手与扎实习得之间作出清醒的取舍。
七、主动建构与被动消费:使用方式的分野
倘若论述止于前数节,本文便沦为又一篇耸动之作。事实要更为复杂,亦更值得驻足。已有研究显示,在恰当引导、用作认知脚手架而非替代物时,模型亦能促进某些学习成效(Brazão, 2025;Zhai et al., 2024)。真正的分野并不在于是否使用模型,而在于使用的方式。心理学中早有一个朴素的二分法,足以容纳上述看似矛盾的证据:主动建构与被动消费。同一部教材,或批注、或自问、或合卷复述,此为主动建构,保持牢固;或自首至尾泛览一过,此为被动消费,转瞬即忘。模型并未改变这一规律,它只是使被动消费变得前所未有地顺滑而诱人,从而使失败的模式更易发生。
据此,使用方式的重心应当由"获取答案"转向"迫使自身建构"。以下数种做法,旨在将被动消费翻转为主动建构。其一,先自行求解,而后求教于模型:在任何情形下,先迫使自身生成一个答案、一个猜想或一份证法草稿,纵使谬误,亦无妨——生成这一步正是学习真正发生之处,断不可由模型代劳;其后将自身所作与模型之输出加以对照,二者之差即为学习之所当用力。其二,令模型提问而非作答:将其设定为苏格拉底式的引导者,要求其以追问引出使用者的思路,而不径直给出结论,借此把被训练为高度配合的模型,重新扭回教学本应具有的施压角色。其三,反向讲授:习得一段之后,暂不借助模型,以己语向其复述,令其检视漏洞;讲不清之处,即为未懂之处,此时模型作为听众兼考官,远较其作为讲师有用。其四,专门证伪:主动预设模型之输出有误,迫使自身检视其推理、搜寻其疏漏,批判一份看似完满的答案所耗心力远过于被动接受,而此心力正是合意负荷。其五,以模型放大而非消灭挣扎:令其拟定更难的习题、提供更刁钻的反例,于困顿之际给予提示而非答案。
诸法有一共同特征,即皆要求使用者付出较"径直发问"更多的认知努力。此点与第二节之判断正相呼应:学习是认知操作的副产品,因而有效的模型使用法,恰恰是那些令使用者不甚舒适之法。这并非反讽,而是必然。理清这一层关系,可以得出一个较为干净的结论:模型既非心智的救星,亦非心智的仇敌,而是一个中性的放大器;其放大之对象,取决于使用者输入之内容。输入主动建构,则如虎添翼;输入被动依赖,则加速退化。决定之权从来不在模型,而在那个于"先自思三分钟"与"径直发问"之间作出选择的主体。
八、结语:外在能力与内在能力
最后,须对前文一处需要审慎表述的直觉加以厘清,即所谓"大脑本身并不会得到进化,过度依赖反将抑制思考"。
此处宜作一区分。生物学意义上的演化以十万年计,与数月之内的学习无涉;然而上文所欲表达的,并非物种演化,而是一桩更为切近之事:外在能力的扩张,并不等同于内在能力的增长。二者乃是相互独立的两个账户。每一种认知技术的登场——文字、印刷术、计算器、搜索引擎、GPS、人工智能——都同样地做着一件事:把人类集体而外在的能力版图向外推展一大步,使可供调用的信息、可完成的任务、可触及的专长皆呈爆炸式增长。然而与此同时,每一项被外包出去的能力,都对应着心智内部一处悄然退场的回路。GPS 削弱了集体的方向感,搜索引擎使集体疏于记忆,而人工智能正在使集体疏于推理。
故而真正的问题从来不是人工智能是否有益——它无疑有益,已将人类文明的外在能力推至新的高度——而是在这场能力的大规模外包之中,使用者愿意将心智的哪些功能出租,又必须将哪些功能牢牢执持于己手。笔者的判断是:凡涉及判断、推理、质疑与原创生成的核心功能,无论工具如何诱人,皆不可外包。这并非因为模型不能胜任此类工作——恰恰相反,正因其过于胜任、过于流畅,使用者方更易在理解的幻觉中将之拱手让出;而一旦让出,所丧失者不仅是一项技能,更是那套使使用者得以配得上使用一切工具的底层心智。Kosmyna 等人研究中的条件互换实验之所以令人不安,正在于此:认知债并不因一时醒悟而即刻清零。心智是一台用进废退的机器,今日所省之力,即为他日所偿之债,而其利息,须以思考之能力来抵。
由此,或可在每一次意欲径直求助于模型之前,先行自问一事:此刻所欲,究竟是完成一项任务,抑或塑成一种心智。若仅属前者,尽可交付模型,省下之精力大可用于生活、创造与其他;若关乎所欲成为之人、所欲拥有之心智,则那些不讨喜的、迟缓的、时时困顿的挣扎,仍宜留归自身。盖因正是这些挣扎,一点一滴地,决定着一个人终将成为谁。
在一个答案已廉价至泛滥的时代,真正稀缺而有价值的,是那颗纵在痛苦之中仍坚持自行想清楚的心智。知识之不可轻易托付于不曾为之流汗之人,其更为有力的反面或许是:为理解所付出的每一分艰难,皆将转化为心智之中一笔不致贬值的资产。
参考文献
- Bjork, R. A., & Bjork, E. L. (2011). Making things hard on yourself, but in a good way: Creating desirable difficulties to enhance learning. In M. A. Gernsbacher et al. (Eds.), Psychology and the real world. Worth Publishers.
- Brazão, M. (2025). The impact of AI chatbots on student learning outcomes: A case study. Frontiers in Education.
- Craik, F. I. M., & Lockhart, R. S. (1972). Levels of processing: A framework for memory research. Journal of Verbal Learning and Verbal Behavior, 11(6), 671–684.
- Deisenroth, M. P., Faisal, A. A., & Ong, C. S. (2020). Mathematics for Machine Learning. Cambridge University Press. https://mml-book.github.io/
- Ebbinghaus, H. (1885). Über das Gedächtnis.(艾宾浩斯遗忘曲线)
- Feynman, R. P. (1985). Surely You're Joking, Mr. Feynman!. W. W. Norton.(费曼学习法:以能否向外行讲清作为理解判据)
- Hebb, D. O. (1949). The Organization of Behavior. Wiley.(赫布律)
- Hou, J., et al. (2020). Habitual use of GPS negatively impacts spatial memory during self-guided navigation. Scientific Reports, 10, 8450.
- Jobs, S. (1980). 访谈中提出的"计算机是大脑的自行车"(bicycle for the mind)之喻。
- Kosmyna, N., et al. (2025). Your Brain on ChatGPT: Accumulation of Cognitive Debt when Using an AI Assistant for Essay Writing Task. MIT Media Lab.
- Maguire, E. A., et al. (2000). Navigation-related structural change in the hippocampi of taxi drivers. Proceedings of the National Academy of Sciences, 97(8), 4398–4403.
- Norton, M. I., Mochon, D., & Ariely, D. (2012). The IKEA effect: When labor leads to love. Journal of Consumer Psychology, 22(3), 453–460.
- Plato. Phaedrus.(柏拉图《斐德罗篇》,苏格拉底论文字与记忆)
- Raschka, S. (2024). Build a Large Language Model (From Scratch). Manning.
- Roediger, H. L., & Karpicke, J. D. (2006). Test-enhanced learning: Taking memory tests improves long-term retention. Psychological Science, 17(3), 249–255.
- Rozenblit, L., & Keil, F. (2002). The misunderstood limits of folk science: An illusion of explanatory depth. Cognitive Science, 26(5), 521–535.
- Slamecka, N. J., & Graf, P. (1978). The generation effect: Delineation of a phenomenon. Journal of Experimental Psychology: Human Learning and Memory, 4(6), 592–604.
- Sparrow, B., Liu, J., & Wegner, D. M. (2011). Google effects on memory: Cognitive consequences of having information at our fingertips. Science, 333(6043), 776–778.
- Sweller, J., van Merriënboer, J. J. G., & Paas, R. (1998). Cognitive architecture and instructional design. Educational Psychology Review, 10(3), 251–296.
- Zhai, X., et al. (2024). Over-reliance on AI dialogue systems and its impact on learning outcomes and critical thinking. International Journal of Educational Technology in Higher Education.