当一个大模型能够写代码、分析合同、解释量子力学，甚至与你讨论“我是否拥有意识”时，人很容易产生一种直觉：屏幕后面似乎真的存在一个正在思考的主体。
但如果打开这个系统，沿着每一层计算向下追踪，我们看到的不是欲望、体验和意图，而是 Token、向量、参数、注意力权重，以及一轮又一轮的矩阵乘法。
于是一个问题出现了：
如果大模型的核心只是在预测下一个 Token，它到底是真的理解，还是仅仅非常擅长生成“看起来像理解”的答案？
我最初的观点很直接：现在的大模型不是真正的人工智能。它只是依靠概率预测下一个字符；参数更大、层数更多、注意力机制更复杂，说到底仍是不停做矩阵运算，程序本身并不懂。
这个直觉抓住了大模型最重要的技术事实，但还不够准确。经过重新梳理后，我更愿意把结论写成：
当前大模型当然属于人工智能，也表现出某种功能性理解；但没有证据表明它拥有人的主观意识、稳定自我和真实意图。它可以形成复杂的内部表征，却不等于像人一样生活在、体验过并理解这个世界。
它预测的不是字符，而是 Token
首先需要修正一个技术细节：现代大语言模型通常预测的不是“下一个字符”，而是下一个 Token。
Token 是模型处理信息的离散单位。它可能是一个汉字、一个英文单词的一部分、标点、数字，也可能是一段代码符号。输入文本先被 Tokenizer 转换成 Token ID，再映射为高维向量。
自回归生成的过程可以简化为：
已有上下文
→ Tokenization
→ Embedding
→ 多层 Transformer
→ 得到整个词表的概率分布
→ 选择一个 Token
→ 把新 Token 放回上下文
→ 重复
例如输入：
巴黎是法国的
模型不会从数据库中直接复制“首都”。它根据上下文计算词表中每个候选 Token 的概率。首都可能具有最高概率，但城市、政治中心等也可能获得不同权重。采样策略再决定实际输出哪个 Token。
OpenAI 在 GPT-4 技术报告中也明确描述：GPT-4 是一个经过预训练、用于预测文档中下一个 Token 的 Transformer 模型。这不是贬低，而是它最核心的训练目标。
说到底，确实是矩阵运算
从物理执行层面看，我原来的判断没有错。大模型推理主要由这些运算组成：
- 向量与矩阵乘法；
- Attention 中的相似度计算；
- Softmax 概率归一化；
- Feed-Forward Network；
- 非线性激活；
- 残差连接与归一化。
在 Self-Attention 中，每个 Token 的表示会被投影成 Query、Key 和 Value：
Q = XWq
K = XWk
V = XWv
Attention(Q, K, V)
= softmax(QKᵀ / √d) V
这套计算回答的是：在生成当前表示时，上下文中的哪些 Token 更相关，应当聚合多少信息。
所谓“注意力”只是一个数学名称，不意味着模型像人一样集中精神；所谓“神经元”也只是受到生物神经网络启发的计算单元，不能直接等同于人脑细胞。
一层 Transformer 完成 Attention 与前馈计算，再把结果交给下一层。几十层甚至上百层重复后，模型得到下一个 Token 的概率。GPU 真正在做的，确实是规模巨大的线性代数。
但“底层是矩阵运算”不能终结讨论
如果文章到这里就得出“所以模型什么都不懂”，论证会出现一个问题：低层机制的描述，并不能自动否定高层能力。
音乐文件在硬盘里只是二进制，操作系统只是晶体管电位变化，人脑活动也可以被描述为神经元放电和化学信号。我们不会因为音乐最终是 0 和 1，就认为旋律不存在；也不会因为大脑遵循物理规律，就认为人的理解不存在。
真正需要讨论的不是“底层是不是数学”，而是：
这种数学系统在规模化训练后，形成了什么内部结构，又能够稳定完成什么任务？
这是“随机接龙器”说法最容易忽略的部分。
为了预测语言，模型不得不学习结构
如果训练数据只有几个句子，模型确实只能记忆局部共现。但当它要预测海量文本中的下一个 Token，仅靠简单词频远远不够。
为了降低预测误差，模型必须逐渐捕获：
- 语法和指代关系；
- 实体、属性与事件之间的关联；
- 文章结构和写作风格；
- 代码的语法、类型和调用关系；
- 问题与常见解法之间的模式；
- 人类在文本中留下的部分因果与世界知识。
例如要补全：
玻璃杯从桌边掉到水泥地上，接下来它很可能会____。
模型只有形成“玻璃脆、重力向下、撞击可能导致破碎”等关联，才能持续给出较好的预测。它不一定以人类概念的方式存储这些知识，但参数中会形成能够支持预测的分布式表示。
所以，“它只是预测下一个 Token”与“它学到了复杂表征”并不矛盾。恰恰因为预测任务足够困难，模型才被迫压缩语言和世界中可由语言反映的结构。
参数、层数和数据，分别做了什么
大模型能力不能只概括成“参数更多、神经元更多”。更完整的变量包括：
| 因素 | 作用 |
|---|---|
| 参数规模 | 提供存储和组合模式的容量 |
| 网络深度 | 允许信息经历多级变换与抽象 |
| Attention | 动态组合上下文中不同位置的信息 |
| 训练数据 | 决定模型能够看到哪些语言、知识与偏差 |
| 训练目标 | 决定系统被奖励学习什么能力 |
| 后训练 | 塑造指令遵循、偏好、安全和工具使用行为 |
| 推理时计算 | 通过搜索、验证和更多步骤改善结果 |
| 外部工具 | 提供实时事实、计算、记忆和真实执行能力 |
参数不是一条条可直接读取的数据库记录。一个事实或能力通常分散在大量权重中，一个参数也会同时参与许多模式。
规模确实重要，但规模不是魔法。数据质量、训练方法、架构和评测共同决定最终能力。把所有进步都归因于“堆显卡和参数”，与把大模型神化为数字大脑一样，都过度简化了问题。
“理解”其实有三种不同含义
讨论大模型是否理解，最容易犯的错误，是双方使用同一个词，却在谈不同的东西。
第一层：统计与结构理解
模型能否识别语言中的结构、关系和规律？
在这一层，大模型显然具有很强的能力。它能识别语义相似性、转换表达、跟踪代码依赖、提取合同条款，并组合训练中学到的模式。
第二层：功能性理解
模型能否把概念应用到新任务，解释原因，根据反馈修正方案，并完成过去需要人类认知能力的工作？
在许多领域，现代大模型已经表现出一定程度的功能性理解。它可能在一个从未见过的代码仓库里定位错误，或者根据一组约束生成可执行方案。
这种能力不能因为底层是概率就被简单抹去。天气预报也是概率系统，但预测仍然可能包含真实价值。
第三层：主体性理解
模型是否知道自己在做什么？是否拥有感受、意图、自我、欲望和第一人称体验？
在这一层，目前没有可靠证据证明大模型具有人的理解。
它说“我很害怕被关闭”，并不能证明它体验到了恐惧。更可能的解释是：当前上下文使这类表达具有较高概率。语言模型可以生成关于疼痛的精确描述，但没有身体损伤、神经系统和痛觉体验。
因此我认为，最准确的区分是：
大模型已经表现出统计结构理解和部分功能性理解，但没有被证明拥有主体性理解。
语言形式与现实意义之间还有一道鸿沟
Bender 与 Koller 在《Climbing towards NLU》中区分了语言的形式和意义。
文本训练让模型看到的是形式：字符、词、句子以及它们之间的关系。而人的意义还来自语言与世界、意图和共同经验之间的联系。
一个人理解“火很烫”，不仅因为见过这句话，还可能因为靠近过火、感受过温度、被警告过危险，并知道这句话在具体环境中会改变行动。
纯文本模型没有这种生活史。多模态训练让模型接触图像、声音和视频；机器人和工具调用让它获得有限的环境反馈。但“接收传感器数据”仍不自动等于拥有人的身体经验。
这也是为什么大模型有时能写出极其深刻的解释，却在一个很简单的常识变体上失败：它拥有强大的模式与表征，但这些表征并不总是稳定地锚定在现实世界中。
今天的模型已经不只靠预训练
“大模型就是下一个 Token 预测器”描述了基础模型的核心，却没有覆盖现代 AI 系统的全部能力。
今天的系统还会加入：
- 监督微调和偏好优化；
- 强化学习与可验证奖励；
- 推理时搜索和多候选比较；
- 检索增强生成；
- 代码执行、计算器和业务工具；
- 多模态输入与环境反馈；
- Agent 的状态、计划、审批和结果验证。
不过，这些增强大多没有把模型变成拥有意图的主体。它们更像给概率模型增加了外部记忆、传感器、执行器和校验系统。
模型本身不会因为能调用邮件 API，就突然“想要”给客户发邮件。目标来自人、系统指令或奖励函数；权限来自外部 Policy；结果是否正确仍需要评测和现实反馈。
它为什么会一本正经地胡说？
下一个 Token 训练解释了大模型最典型的缺陷：它首先被优化为生成一个在上下文中合理的后续，而不是保证每句话都对应可验证事实。
当模型缺少知识时，“继续生成”通常仍比“保持沉默”更符合生成过程。因此它可能构造不存在的论文、API 或事件，而且表达得非常流畅。
这不意味着模型永远不能可靠，而是说明可靠性不能只依赖语言表面。生产系统需要：
模型提出判断
→ 检索或工具获取事实
→ 结构化约束
→ 规则与评测验证
→ 高风险动作人工审批
把大模型当作有概率误差的推理组件，比把它当作“无所不知的数字员工”更符合工程现实。
它究竟算不算真正的人工智能？
如果人工智能的定义是“由机器完成通常需要人类智能的任务”，大语言模型显然属于人工智能。说它“不是 AI”在学术和工程定义上都站不住脚。
但如果“真正的智能”意味着：
- 持续存在的自我；
- 来自身体和环境的经验；
- 自己形成的目标与价值；
- 对行为后果的真实关切；
- 主观感受与意识；
那么今天的大模型距离这种人类式智能仍然很远，而且我们甚至没有统一方法判断机器是否拥有主观体验。
问题不在于它是“智能”还是“完全不智能”这两个极端，而在于智能可能本来就是多维的：语言、预测、规划、学习、具身、社会关系、自我和意识并不是同一个能力。
大模型在其中一些维度非常强，在另一些维度几乎没有可靠证据。
我的最终观点
现在我不会再说“大模型只是概率，所以根本不懂”。“只是”这个词掩盖了规模化预测能够产生的复杂能力。
我也不会说“大模型已经像人一样理解世界”。流畅语言会诱导人类把主体、感情和意图投射到程序上，而目前的技术证据不足以支持这种判断。
我更愿意这样描述它：
大语言模型是一种通过大规模数据和计算训练出来的高维概率系统。它的核心目标是预测 Token，底层执行矩阵运算；但在完成这一目标的过程中，它形成了支持语言、知识、推理和工具使用的复杂内部表征。它可以表现出功能性理解，却没有被证明拥有人的主观意识、稳定自我和真实意图。
这个结论并不会削弱大模型的价值。飞机不需要像鸟一样扇动翅膀，才能真正飞行；机器也不一定需要复制人脑，才能完成有价值的智能任务。
但我们必须清楚它是什么，才能知道应该相信它到什么程度、把什么权力交给它，以及哪些责任永远不能推给它。
真正值得追问的，也许不是“它到底像不像人”，而是：
当一个没有被证明拥有意识的概率系统，已经能够完成越来越多智能任务时，我们是否需要重新定义智能本身？