刊于《经济日报》，2026年7月18日
建议「让AI做 你审查」本末倒置
黄昊
科大商学院会计学系教授兼系主任
强大的人工智能（AI）工具面世以来，有论者认为，若机器能够生成文章、分析或代码，我们就不必再教学生自己动手创作，只需教他们如何评审和改进机器生成的内容。笔者认为，这种想法本末倒置。
心理学家邓宁（David Dunning）和克鲁格（Justin Kruger）提出的「邓宁-克鲁格效应」（Dunning-Kruger effect）指出，能力最差的人往往最容易高估自己。原因在于，做好一项任务所需要的技能，与判断成品优劣所需要的技能，基本上是同一套。换言之，专业能力既是创作的能力，也是分辨好坏的能力。
让学生跳过写作实践，直接进入编辑和评审，只会令情况更糟。也许有人认为，今天的大语言模型如此强大，生成的文章读来不下于专业者之手，应该有助缓解这个问题。事实恰恰相反。
能力信号失灵
过往，文字流畅、自信、条理清晰，是优秀内容的可靠信号。写得出这样的文章，需要阅读、练习和修改的长期浸淫，很难造假。2001年诺贝尔经济学奖得主迈克尔‧斯宾塞（Michael Spence）提出的「信号理论」指出，只有当信号的成本足够高、难以伪造时，信息才能有效传递。大学学位、精湛的报告、可供查核的专业资格，之所以能够充当能力的信号，正是因为取得的成本很高。一纸学位的背后，是多年的学习和一关一关的考核。
如今，大语言模型令流畅的文字表达几乎变得免费。即使对内容一无所知的人，也能在几秒钟内生成一个自信、条理清晰、看起来很专业的答案。结果，流畅精琢的文字失去了令人安心的力量，反而惹来怀疑：这是否出自真人之手？这正是信号理论所预言的：一旦传递信号变得廉价，它就无法区分能力的高下。
警报失声错漏隐藏
不过，理智上知道某个信号不再可靠，并不等于实际上对它无动于衷。我们明知写作的流畅性已变得廉价，却仍在读到流畅的文章时感到一丝安心。这种吸引力难以摆脱，因为我们对流畅的反应，本来就不经理性判断。2002年诺贝尔经济学奖得主康纳曼（Daniel Kahneman）把思维分为两种模式：「系统1」快速、直觉、毫不费力；「系统2」则缓慢、深思熟虑、带批判性。大多数时候，我们都依赖「系统1」的操作，通常情况下并没有什么问题。但当我们要切换到「系统2」，便会出现「阻力」（friction），内心产生下意识的抗拒。当一段文字难以阅读，或者某些内容感觉不对劲，这种阻力就是一记警报。信息愈难处理，人们的推理就愈仔细，也愈容易发现错误。因此，困难不只是障碍，也是提醒我们留神的信号。
然而，人工智能的输出极其流畅，几乎不会触发这记警报。原本会唤起你批判性思维的阻力，恰恰被机器抹去了。这就解释了一个现象：见多识广的专家明明有能力识破伪造的引文或细微的疏漏，却轻易放过。因为在AI充满自信的文字表面，没有任何迹象提示你需要仔细检查。
诚然，有些纰漏很容易查出来，但真正重要的事情大多并非如此。验证的成本一般比生产低。例如，我们不必懂得谱写交响乐，也能听出一个错音，因为错音本身就刺耳，未受训练的耳朵也分辨得到。然而，廉价的验证只存在于错误显而易见的地方，而人工智能的错误却悄无声息。换言之，验证在最不重要的地方有效，却在最重要的地方失灵。
流畅性蒙蔽检查
几十年前，我们把算术交给了机器，一切安然，因为此举满足了两个条件。其一，计算器不会说谎，不会给出看似正确却错误的答案；其二，即使你对计算结果有所怀疑，也可以在脑海中把它与大致的预期核对一遍。关键在于，我们简化的只是计算过程；学生仍然要知道该用哪种算法，以及答案大致应该是什么。判断从未被交出去。
然而，大语言模型同时违反了这两个条件。它经常毫无预警地生成看似合理却错误的答案；面对难题时，它的输出很难用低成本验证，而流畅的表面又不断说服你，根本不需要检验。
应付这类难题，恰恰是正规教育的意义所在。以商学教育为例：这个产品市场值得进入吗？估值合理吗？这套商业策略是否稳健？这些问题都没有现成答案。要验证答案，你首先得知道哪些地方值得验证，而这正是非专业人士所欠缺的。
提倡改变的人或会说，即使承认以上所有观点，学生仍然可以在编辑的过程中逐步掌握能力：处理人工智能的输出，反复修改和润色，练习日久自然生巧。
评价自身学习盲点
问题是，人往往不擅长评价自己的学习。心理学家反复证明，我们很容易把阅读时的流畅感，误当成自己已经掌握了知识；然而流畅只是当下理解的感觉，与学到多少无关。
不妨设身处地，想想编辑人工智能答案是甚么感受。文章流畅，读来毫不费力，于是感觉一切都已经理解。学生在这处改一个句子，在那处调动一个段落，细微的调整让他觉得自己付出了努力；交出一篇润色过的文章，自信更添几分，油然生出掌握了知识的错觉。可是真正构成精通的环节，独立思考、独立构建论证，却从未发生。流畅的文字既能蒙蔽读者对作者能力的判断，也能蒙蔽学习者对自己能力的判断，后者尤其令人不安。
这正是「让AI做，你只需审查」不仅无效、而且更糟的原因。一个明知自己偷懒没做作业的学生，至少清楚自己欠缺甚么，日后补回来还来得及；一个自以为做完了作业的学生，连自己不懂甚么也不知道。回想文首的观点：能力最弱的人往往最高估自己，因为自我评估所依赖的，恰恰是他们所欠缺的那套技能。
总言之，在人工智能时代，需要掌握工作技能的人只会更多，不会更少。这一点，笔者将另文深入讨论。