这里记录每周值得分享的科技内容，周五发布。
本杂志开源，欢迎投稿。另有《谁在招人》服务，发布程序员招聘信息。合作请邮件联系（[email protected]）。
封面图
宁夏沙坡头景区的巨型蒙眼雕塑。（via）
你需要知道的 AI 三种机制
这是"AI 小知识系列"的第三篇，前两篇分别是《大模型需要多少内存》和《AI 缓存是什么》。
我分享一些自己的学习笔记，用来理清对于 AI 技术的理解。我尽量写得通俗，希望对大家有用。
今天谈一个基本问题：AI 为什么能够回答我们的提问，它怎么会知道答案？
你可以找到很多这方面的论文和书籍，详细解释大模型的运作，通常非常难懂。但是，对于非专业人士，只要简单知道 AI 的三个机制，就可以了。
（1）参数机制
在宏观层面，所有大模型都是对人类知识的建模。它建立了一个数学模型，用来描述所有的人类知识。
怎么描述呢？它使用的是一种参数机制，将知识分解成一个个"词元"（token），然后计算所有词元之间的数学关系。这个过程称为"训练"。
这种数学关系使用无数个参数来表示。举例来说，大模型 GLM 5.3 有7440亿个参数，这些参数用来构建所有词元之间的关系（也就是权重）。所谓"训练"，其实就是找出这个7440亿个权重，描述人类知识的构成，也就是所有词元之间的关联。
一旦训练完成，我们向大模型提问时，它就会根据这些权重，找出最可能的词元，从而生成符合概率的答案。
所以，大模型本质上是一种"压缩-生成"机制，将人类知识抽象在无数参数之中，后期再生成出来。
（2）推理机制
不难理解，参数越多，模型的效果越好。因为更多的参数意味着，可以更精确地描述各种知识，从而可以更准确地将其还原出来。
但是，一方面，参数不可能无限增加，训练和使用成本将直线上升，使用时的运算时间也会变长。