别说"AI 在听""AI 懂了"——拟人化怎样妨碍孩子理解 AI

本文译自树莓派基金会（Raspberry Pi Foundation）Experience AI 项目的文章 How anthropomorphism hinders AI education，2023 年 4 月 13 日发表。原文

上世纪五十年代，图灵思考过人工智能的核心问题。他认为“机器能思考吗”这个问法得不到有用的答案，因为“机器”和“思考”都很难定义。于是他把问题换成一个可验证的版本：“计算机能不能把智能行为模仿得足够像，让人相信自己在跟人说话？“这就是通常说的图灵测试。

过去一年里新一代 AI 聊天机器人很难让人忽视，新闻报道到处都是。你可能听说过 ChatGPT、LaMDA 这类基于机器学习的聊天应用。它们做得足够好，以至于关于图灵测试、关于这些程序是否有意识的讨论又被重新翻了出来。

聊天机器人没有意识

如果完全不了解这类应用是怎么造出来的，很容易在脑子里形成一个错误的模型——把它想象成一个活的存在。再加上一点科幻故事的印象，你甚至会开始想象它长什么样，或者给它安一个性别。

实际情况是：这些聊天机器人是基于大语言模型（LLM）的应用。这类机器学习模型用海量文本训练出来，那些文本是人写的，来自书籍、互联网、社交媒体帖子等等。大语言模型预测的是词与词组合起来的可能顺序，有点像手机输入法的自动补全。根据这些概率，它产生文本输出。这类应用跑在世界各地数据中心里、由人建起来的大量算力上。

为什么我们避免把 AI 描述得像人

AI 应用常被称作“黑箱”：用起来相对容易，但不容易明白它怎么工作。我们认为帮助所有人、尤其是年轻人理解 AI 技术的潜力、打开这些箱子看看里面到底怎么运转，是件根本重要的事。

我们研究中心的研究者开始研究 AI 和机器学习这个题目，其中包括深入思考：向教育者和学习者描述 AI 时，该怎么说。

为了帮学习者建立准确的心智模型，我们认为要避免使用那些会让人误以为机器具备人类能力的词。这就是为什么“拟人化”这个词在我们讨论课程时会反复出现。

拟人化：把动物、神或物体表现或对待成在外形、性格或行为上像人的样子。（剑桥词典）

教学材料里把 AI 拟人化，可能让学习者相信 AI 应用里存在感知或意图。这个误解会让他们忽略一个事实：是人设计了 AI 应用，也是人决定它们怎么被使用。它还可能削弱学习者主动去理解 AI、参与未来应用设计的意愿。

两个例子

智能音箱。 用拟人化的说法描述它的功能很容易——“它在听”“它听懂了”。但我们认为更准确、也更能给人力量的说法是：智能音箱是人开发出来的系统，用来处理声音并完成特定任务。与其告诉孩子音箱“在听”“听懂了”，不如说它接收输入、处理数据、产生输出。这种说法能把设备实际的工作方式，和它的声音在孩子心里造出的那个“人格”幻觉区分开。

计算机视觉。 机器学习模型可以被训练来识别图片里有没有狗或猫。一个准确的模型表面上看展现出了像人一样的行为。但它的运作方式和人识别动物的方式很不一样。人会指出胡须、耳朵形状这些特征，而模型处理的是图像里的像素，基于概率做出预测。

换一种说法

要在谈论 AI 时避免拟人化并不容易，尤其考虑到这个领域的标准术语本身就是这样：人工智能、机器学习、计算机视觉——随便举几个例子都是。在基金会内部，我们自己也还在训练自己不要拟人化，还挺乐于互相挑毛病。

给你几条建议：

避免这样说	改成这样说
“AI 学会了”“AI 做了……”	“AI 应用被设计成……”“AI 开发者造了一个能……的应用”
描述人类行为的词（看、瞧、认出、创造、制作）	描述系统的词（检测、输入、模式匹配、生成、产出）
把 AI / 机器学习当可数名词，比如“2022 年出现了新的人工智能们”	把“AI / 机器学习”当成一门学科来说，就像说“生物学”那样

这么做是为了什么

如果我们的方向是对的，那么不管参与课程的孩子将来会不会成为 AI 开发者，我们都帮他们成为了有判断力的 AI 使用者——更可能看清这些产品的本来面目：由数据驱动的应用程序，而不是有意识的机器。

---

编者按：我们的课程也遵循同一条原则。游戏里的 AI 角色小智和星火，说的每一句话都是老师提前写好的，工具用的是预置数据和规则算法，不接大模型。孩子在课上看到的“AI 判断”，背后是能讲清楚的规则，不是一个说不明白的黑箱。见数据与源码。