ELI5 · 5 岁也能懂

Transformer 是什么?

它像一群会互相传纸条的词:先看看谁最重要,再一起猜下一个词。

小猫 坐在 垫子

一排词进来

每个词都带着“我是谁”和“我排第几”的小卡片。

每个词看上下文

它们互相问:“谁能帮我弄懂现在的意思?”生成时不能偷看未来。

这就是核心:Self-Attention(自注意力) = 每个词给其他词打“重要分”。

点一个词,看它在听谁

线越粗 = 此刻越重要

“苹果”最关心:谁吃?发生了什么?

一座“猜下一个词”工厂

同一句话会经过很多层,理解越来越清楚

1. 切成小块 文字 → Tokens
2. 互相看 + 思考 Attention + 小型神经网络 重复很多层
3. 给词打分 哪个最可能接在后面?
4. 说一个词 然后再猜下一个
一次看很多词不像排队逐个读,训练时可并行处理。
懂的是模式从大量例子学会词与词如何搭配。
答案是预测只看已经出现的词,再选“最可能”;不保证正确。