初中信息科技 · 一节课
AI 是怎么
“接话”的?
你问豆包、DeepSeek 或 ChatGPT 一个问题,它的回答是一个词一个词地“蹦”出来的。它每蹦一个词之前,都在做同一件事。这节课,我们一步一步把这件事拆开看。
改编自佐治亚理工学院 Polo Club 的 Transformer Explainer。本课的数字都是为了教学编的示意数据,原理和真实的大模型一致。
老师提示约 2 分钟。先问全班:用过哪些 AI?你觉得它是怎么想出答案的?右边的小动画会一直循环,可以让大家盯着“蹦出来”的那个黄色词。
热身游戏
你来猜:下一个字是什么?
全班一起喊出答案,再看看 AI 是怎么猜的。
划重点AI 不是“想好了一整句话”,它只会做一件事:猜下一个词。越有把握,柱子越长。
老师提示约 5 分钟。前两题大家都会,第 3、4 题没有标准答案。追问:为什么 AI 的第一名是这个?(因为它读过的海量文字里,这样接的人最多。)
上一页:AI 一直在猜下一个词。可它连“词”都看不懂,第一步得先……
第 1 步
把句子切成一块一块
电脑只认识数字。所以 AI 先把句子切成小块(叫 token),再到自己的“词典”里查出每一块的编号。
划重点AI 读的不是字,是一串编号。GPT-2 的词典里一共有 50,257 个小块。
老师提示约 5 分钟。请学生上台输入自己的名字、一句方言或网络用语。英文单词常被切成半截(un + believ + able),这很正常。切法和编号是示意,真实模型的切法略有不同。
上一步:句子被切成了小块,每块有个编号。可编号本身没有意思,“猫”是 1 号还是 9 号都一样……
第 2 步
给每个小块发一张“身份卡”
身份卡上是一串打分:它是活的吗?能吃吗?会动吗?意思相近的词,分数也相近,所以在地图上会挨在一起。
划重点每个词都变成了一串数字,意思像的词,数字也像。真实的 GPT-2,每张卡上有 768 个数字。
老师提示约 6 分钟。先点“神秘卡片”,让全班看分数猜是哪个词。再打开“比一比”:猫和狗像不像?猫和飞机呢?真实模型的 768 个数字没有“能吃吗”这样的名字,是它自己学出来的,这里为了好懂给它们起了名字。
上一步:每个词有了身份卡。可光看一个词不够,“它”到底是谁?得看前后文……
第 3 步
注意力:回头看看谁最重要
读到一个词时,AI 会回头把前面的词扫一遍,给每个词打一个“重要程度”。红线越粗、颜色越深,看得越认真。点任意一个词试试。
划重点AI 只能往回看,不能偷看后面的词。它靠“注意力”把散落的词连起来,读懂整句话。
老师提示约 7 分钟。先看“太累了”,红线指向“小猫”;换成“太高了”,红线跳到“桌子”。再点“它”本身:读到“它”时 AI 还拿不准。最后切换三个“头”:GPT-2 每层有 12 个头,一共 12 层,每个头盯的东西不同。
上一步:AI 用注意力读懂了前文。现在它给词典里每个词打出“接在后面的可能性”,然后……
第 4 步
算出概率,再转一转幸运转盘
AI 不是每次都挑第一名,而是按概率抽签:概率大的格子大,更容易被抽中。“温度”这个旋钮能改变格子的大小。
转一下试试
划重点温度低,AI 总选第一名,稳但无聊;温度高,冷门词也有机会,有创意但容易离谱。
老师提示约 6 分钟。把温度拉到最左,连转 10 次;再拉到最右,连转 10 次,比较记录。也可以让学生先预测下一次会抽中什么。
前面四步,AI 只猜出了一个词。要写一整段话怎么办?把这个词接上去,再来一遍!
第 5 步
接上去,再猜下一个,一直重复
点“让 AI 抽一个”,看上方流水线一步步亮起。你也可以自己点候选词,当一回 AI。
划重点ChatGPT 写一篇作文,就是把这五步重复几百遍,每次只多写一个词。
老师提示约 6 分钟。前几步让学生举手投票选词(他们就是 AI),后面交给“让 AI 抽一个”。重新开始几次,看看同一个开头能写出多少种故事。
我们知道了:AI 是一个超级会接龙的程序。那它说的话,一定是真的吗?
想一想
AI 会一本正经地胡说吗?
哪里不对?
李白是 1300 多年前唐朝的诗人,那时候根本没有手机。可 AI 只会挑“听起来最像人话”的词接下去,它不会先停下来想一想:这件事是真的吗?
划重点AI 说得很顺,不等于说得对。重要的事实,自己再查一查。
老师提示约 4 分钟。讨论:生活里用 AI 查资料、写作业时,怎么判断它说的对不对?(换个来源核对、问老师、看原始出处。)
下课前
一句话记住今天的课
划重点大模型 = 读过海量文字、超级会接龙的程序。
想看真正的 GPT-2 内部怎么运转?课后可以打开原版 Transformer Explainer(英文)。
老师提示约 4 分钟。三道题可以抢答,点卡片翻出答案。