关于AI的应用和限制的一些讨论

背景设定

近来，随着AI工具的发展，AI在学习中的应用也逐渐扩展。不少家长、教师、业内所谓权威人士对AI的作用提出了质疑。

大致可以分为以下几种：

AI会取代人的独立思考，使人思考的能力降低。
学生依赖AI进行写作、编辑等等，相关技能衰退。
AI降低内化知识的质量。
人类教师提供的情感连接不可替代。

反驳

第一点，更准确地说，是对AI使用整体上的担忧。但考虑问题不能只看理想情况，还要看大多数人实际是如何思考的。举一个例子，我们学校的语文期末现代文复习卷的文本、题目、答案、答题套路、PPT，全部是从网上下载的，可以轻松搜到原帖，未经任何编辑。那么，在这种情况下，AI本身难道减少了学生的深度思考吗？而且所谓的深度思考是什么？套用现成套路，上网搜索原文题目，这些能算深度思考吗？

当前的学习中，大部分题目实际上进行的是模式匹配，训练的是学生看到A题型匹配A套路、B题型匹配B套路的能力，而非从零开始逐步推理、解决问题的能力。在这一背景下，所谓AI取代人的独立思考的说法，就显得很荒唐了。当题目本身无需独立思考，训练的又是一种现实生活中用处有限的技能时，AI是否取代了人的思考，根本无从谈起。

第二点确实是真实的担忧，但其中也隐含着一些前提设定的问题。再举一例，这是OpenAI的CEO曾在某次大会上提到的现象：现在很多人工作中跟别人交流是这样的：把三个bullet point扩展成一整封邮件，收件人再把邮件用AI总结成三个bullet point。也有人随手输入几句话，让AI优化语气，变得更礼貌。这时候我们当然不能否认，一个人写详细内容、写礼貌邮件的能力降低了。

但问题是，这些能力本身还有意义吗？在过去的时代，这些能力有意义，是因为它们证明了一个人受过良好的教育。在那个时代，很多品质是绑定在一起的。譬如说，那个年代还形成了另外一种习惯，就是看一个人的牙齿：牙齿白的人，往往被认为人品也不错。这是因为在当时的社会环境下，要保持牙齿健康，需要一个人家庭较为富裕、饮食健康，同时能获取良好的医疗。如今，牙齿洁白与人品之间的关联，已经远小于那个时代。但邮件至今仍是这样，因为邮件还带有一种附带关系，也就是能够写礼貌邮件的人，大概率是受过良好教育、有良好素养的人。

但细想之下，附带关系终究是附带关系，能写礼貌邮件跟良好素养并不是因果关系。当能写礼貌邮件跟良好素养不再绑定的时候，这件事本身也就没有意义了。同样的逻辑可以运用到很多事情上，不再一一列举。

第三点同样可以用刚刚的逻辑来分析。按照这种说法，难道手动刷题就积累了知识吗？积累的也不过是模式匹配的能力而已。这种能力有没有意义，同样值得存疑。这里我展开谈谈"意义"的问题。

价值的重要性

一个社会越是快速变化，一个人判断一件事情是否重要、是否真实、是否有价值的能力也就越重要。AI可能确实削弱了某方面的能力，或者说取消了某种训练，但这重要吗？当前社会存在的一大问题，就是人们不仅逃避，而且忽略价值判断。辩论赛、论文比赛等学术竞赛，更多评判的是一个人说辞的能力，也就是当被赋予一个特定观点时，为其辩护的能力。

于是，很多受过正统批判性思维训练的人，能很快指出AI会降低某方面的能力，但并不能告诉你为什么这是一件糟糕的事。就比如模式匹配：它是当前考试系统测试记忆力的重要方式，而记忆力本身，正是当前考试系统所考察的主要能力之一。可一个人要是没有价值判断能力，就意识不到这套系统在AI时代面前是多么苍白。AI在模式匹配上，能胜过任何一个人类；在有固定答案的问题上，能胜过任何专家。

这里倒不是要提倡开放性问题的重要性，而是要强调：某方面能力的削弱，并不一定是坏事。

荀子说过一句话，是这样的：

假舆马者，非利足也，而致千里；
假舟楫者，非能水也，而绝江河。
君子生非异也，善假于物也。

意思是：

借助车马的人，并不是脚特别快，却能到达千里之外；借助船桨的人，并不是特别会游泳，却能横渡江河。君子的本性并没有和别人不同，只是善于借助外物。

譬如说写作。当前各类考试对写作的要求截然不同。有的考试要求你言简意赅，不能使用被动语态，不能堆砌各种复杂词汇来炫耀词汇量。有的考试要求，能用简单句写的，得用复杂句，能用复杂句写的，得用复杂复合句。还有的考试要求，能用主动语态的，必须用被动语态；能用fix的，必须用ameliorate。

如今AI能够完美完成后一种考试，难道我们要说，人类丧失了把简单的东西写复杂、把简明的东西写生涩的能力，是一件坏事吗？顺带一提，我说的不是什么小众案例，我说的就是雅思考试（以及一部分学术论文）的要求。

情感连接

这是所有反对AI的声音中最荒唐的一点。先不说真正有人格魅力、能跟学生产生情感共鸣的老师究竟有多少，就说刚才提到的从网上找卷子的例子，我相信大部分学校都是采用这样的形式。那么，老师的情感连接在这件事当中起了多少作用？让老师来讲解，和让学生自己看答题路径、自己看AI的讲解，又有什么区别？

再比如说，"杀猪盘"是一种通过网恋进行诈骗的方式。前些年，尤其是疫情期间，有不少尼日利亚团伙以此为手段，针对欧洲的单身年轻女性作案，具体报道可见《经济学人》。报道中提到，这个产业受到了AI的极大冲击，因为AI提供的情感支持要远远胜过这些诈骗犯的招数，他们每年骗取的18亿美元，正面临被AI取代的风险。

正是这样一个提供情感连接的服务，或者说是诈骗行业，受到了AI的威胁，这恰好证明，AI在情感上并不是完全不能替代人。

再展开一点论证。人的情感从来不是单纯的。父母对孩子的情感，夹杂着阶层攀升的欲望、让孩子沿自己设定的路径前行的想法，以及对孩子未来的种种规划。情侣之间的情感，夹杂着对自身需求的满足、对自己能力希望得到认可的渴望。朋友之间的情感，也时常夹杂着你帮我、我帮你的互助需要。这并不是说这种夹杂不好——这是人的特征，是人之所以为人的原因。

而AI是不会有这些动机的。只要使用的是正规的AI，而不是诈骗分子操控的AI，那么这个AI便不带有任何自身的动机，可以出于纯粹利他的角度跟你对话。再考虑到人对情感连接、支持与接纳的天然需要，AI在这方面似乎并不比人逊色。

人的温度，正源于共同的体验和经验；但人的缺点，也源于这些共同的体验和经验必然带来的、情感之外的其他因素。