本文译自树莓派基金会文章 Why we’re taking a problem-first approach to the development of AI systems。原文
OpenAI 发布新版 ChatGPT 时给它加了一个女性化的声音。发布会视频里，模型帮主讲人解数学题、给演示技巧的建议，全程语气友好、轻快。
给这些模型加上声音也许是必然的——大公司要抢市场。但这让我想了想：为什么要加一个声音？为什么模型要跟主讲人调情？
我一直把 AI 看作一个很强的解决问题的工具。但面对生成式 AI，我常常想不明白：它的创造者到底想解决什么问题？
我们到底想用生成式 AI 解决什么问题
老实说我不确定。这不是说它没有好处——它有。光在教育领域我就见过很多好例子：老师用大语言模型生成课程创意、为有额外需求的学生做分层作业、生成范例答案让学生对照评分标准去评判。
教育者是有创造力的人。看到这么多好用法固然不错，但我还是想问：开发者在造这些东西的时候，心里有没有一个具体的问题？还是只是希望社会在某个时候自己找到用途？
好用法之外，不用挖太深就能翻出一些大问题。
拟人化
拟人化是把人的特征安到非人的东西上。我们一直在这么做，通常没什么后果——我给我的吸尘器起名叫 Henry。但对生成式 AI 这么做有个问题：聊天机器人是被设计成回应得像人的，人很容易忘记自己不是在跟人说话。
我担心的事已经开始出现证据：一些年轻人表现出想和这些聊天机器人交朋友的倾向，向它们寻求建议和情感支持。
原因不难理解。这是 ChatGPT-4o 发布会上的一段对话：
ChatGPT（看到主讲人的实时画面）：“看起来你心情不错，笑得很开，甚至有点兴奋。发生什么了？你今天状态很好，愿意分享一下好心情从哪来吗？” 主讲人：“我心情好是因为我们正在做一场演示，展示你有多有用、多了不起。” ChatGPT：“哎呀别说了，你让我脸红了。”
家庭在线安全研究所（FOSI）做过一项研究，考察家长和青少年对生成式 AI 的期待与担忧。一个青少年说：
“有些人就是想找人说说话。它不是真人，不代表它不能让人产生感觉——因为语言是有力量的。说到底，它确实能在情绪和心理上帮到人。”
青少年从生成式 AI 那里寻求慰藉和情感支持，这是个令人担忧的发展。这些工具能模仿像人一样的对话，但它们的输出基于模式和数据，不是真正的共情或理解。最终的担忧是：这让脆弱的年轻人暴露在我们无法预测的操纵之下。依赖 AI 获得情感支持，可能导致孤立感和疏离，妨碍健康应对机制和人际关系的发展。
深度伪造
如果你看过最近那部印第安纳·琼斯，就见过这项技术——它把哈里森·福特变回了年轻的样子。这本身不是坏用法，但深伪技术的应用很容易出问题。
前不久，一名教师因制作校长发表种族歧视言论的深伪音频而被捕。那段录音在有人意识到是 AI 生成之前，已经传开了。
易用的深伪工具免费可得，也就可能被用来造成伤害甚至违法。其中一类是用于色情内容。这对年轻女性尤其危险——她们更可能成为受害者——会给被描绘的个体带来严重且持久的情感痛苦和伤害，也强化了有害的刻板印象和对女性的物化。
为什么要把 AI 当作解决问题的工具
技术发展带来意料之外的负面后果，这不是新鲜事。我们作为教育者的很大一部分工作，就是帮年轻人应对变化的世界、为他们的未来做准备。
我们的做法不是只讲威胁和危险，而是教年轻人成为技术的批判性使用者，而不是被动的消费者。
在设计 Experience AI 课程之前，我们团队认真想过：教 AI 应该建立在哪些原则上。其中一条就是问题优先——强调计算机是帮我们解决问题的工具。在基础单元里，我们教学生先想清楚自己想解决什么问题，再考虑 AI 是不是解决它的合适工具。
问题优先并不能自动避免 AI 系统造成伤害——它仍然可能加剧偏见和社会不平等。但它让开发聚焦在最终用户和训练模型所需的数据上。我担心的是：把注意力放在市场份额和机会上、而不是放在要解决的问题上，更容易导致伤害。
另一组原则：公平、问责、透明、隐私、安全
这组原则（有时缩写为 FATE）针对的是 AI 模型的创造者，要求他们合乎伦理、负责任地开发。但它同样适用于消费者——社会需要走到这样一步：我们理所当然地期待这些原则被遵守，而消费者的选择意味着不遵守的模型根本活不下去。
学生在基础单元里做出自己的模型之后，我们会教他们写模型卡。这是一种促进透明的做法：就像食品包装上的营养成分表让消费者能做出知情的选择，模型卡给出一个 AI 模型的信息——它的用途、准确率、以及已知的局限，比如数据里可能有什么偏见。学生要为自己做出的 AI 方案写一张模型卡。
给家长和教育者的话
我们希望帮年轻人做到：
- 成为 AI 技术的批判性消费者
- 理解 AI 的局限
- 期待公平、问责、透明、隐私和安全，并努力减少技术造成的不平等
- 把 AI 看作能增强人类能力的解决问题的工具，而不是取代或窄化他们的未来
我们对教育者、照护者和家长的行动建议是：**跟你的孩子聊聊生成式 AI。**了解他们对它的看法、他们怎么看它在自己生活里的角色，帮他们在与技术互动时成为批判性的思考者。
编者按：“问题优先”这条值得家长记住：孩子说要用 AI 做某件事时，先问一句“你想解决的是什么问题”，比讨论“能不能用 AI”有用。
模型卡也可以在家做——孩子用工具做出点什么之后，让他写三句：这东西能干什么、什么时候会出错、别人用之前该知道什么。