大语言模型

大语言模型（英语 large language model，LLM）是一种神经网络，人们用海量文本训练它只做一件事：猜测下一个词，更准确地说，是下一个 token，即词的一个片段。模型的回答就是一连串这样的猜测。聊天机器人、面向程序员的 AI 助手以及 AI 智能体都建立在大语言模型之上。

这项技术最出人意料的地方在于规模。“续写文本”这个任务自 2018 年以来从未改变，但模型、数据和算力越大，模型会做的事情就越多：根据几个示例解决问题、翻译、编写程序，后来又学会了推理和独立工作。¹² 这背后是否存在理解，至今仍有争论。

历史

• 2017年6月12日Google 的研究人员发表论文“Attention Is All You Need”，提出 Transformer 架构：它完全建立在注意力机制之上，不使用循环神经网络，训练速度也比以往的架构更快。³ ¶ csanuy4nd
• 2018年6月11日OpenAI 展示 GPT：先在大规模文本语料上训练 Transformer，让它只是预测后续内容，再在小型标注数据集上针对具体任务进行微调。⁴ ¶ c9p9gfxz6
• 2019年2月14日GPT-2 有 15 亿个参数，“只是被训练来预测 40GB 互联网文本中的下一个词”。OpenAI 担心被滥用，起初没有公开完整模型，而是分阶段发布，直到 2019年11月5日才全部放出。⁵ ¶ cx8dznxpz
• 2020年1月23日OpenAI 的贾里德·卡普兰（Jared Kaplan）及其合著者描述了缩放定律：随着参数数量、数据量和算力的增长，模型的误差按幂律下降。¹ ¶ czpw8t6ic
• 2020年5月28日GPT-3 有 1750 亿个参数。模型能根据请求中直接给出的几个示例解决新任务，无需微调。² ¶ chru876b8
• 2022年3月4日OpenAI 介绍 InstructGPT：模型根据人类的评分进行微调（基于人类反馈的强化学习（RLHF）），人们更喜欢其 13 亿参数版本的回答，而不是规模大 100 倍的 GPT-3 的回答。⁶ ¶ c585bcdf6
• 2022年3月29日DeepMind 展示 Chinchilla：在相同的算力预算下，一个用更多文本训练的 700 亿参数模型胜过了 2800 亿参数的 Gopher。作者的结论是：模型规模和训练 token 数应当同步增加。⁷ ¶ cgg6g9xvw
• 2022年11月30日OpenAI 推出 ChatGPT——一个 GPT-3.5 系列模型，采用与 InstructGPT 相同的方法微调。⁸ ¶ cexyrfgim
• 2022年12月15日Anthropic 介绍 Constitutional AI（宪法式 AI）——一种无需人类标注有害回答就能训练出无害助手的方法：人类唯一的监督是一份规则和原则清单，即“宪法”。模型自己批评并修改自己的回答，两个回答中哪个更好则由另一个模型来判断。⁹ ¶ c6yd2bh89
• 2023年2月1日据 UBS 分析师估计，ChatGPT 上线两个月后月活跃用户就达到约 1 亿，增长速度超过此前任何一款消费类应用。¹⁰ ⧗ ¶ c77uhf6xw
• 2023年3月14日GPT-4：据 OpenAI 称，在模拟律师资格考试中，该模型的分数达到前 10% 考生的水平，而 GPT-3.5 处于后 10%。¹¹ ¶ cj6i7dziy
• 2023年3月14日同一天，Anthropic 推出 Claude——一个基于该公司关于训练“有用、诚实且无害的 AI 系统”研究的助手。它有两个版本：Claude 和更轻量、更便宜、更快的 Claude Instant；可通过聊天界面和 API 使用。¹² ¶ c62ai5hfk
• 2023年7月18日Meta 发布 Llama 2，它“可免费用于研究和商业用途”；而 2 月发布的第一代 LLaMA 只按申请提供给研究人员。Llama 2 开启了开放权重模型的浪潮。¹³ ¶ cauga2wua
• 2024年3月4日Anthropic 发布 Claude 3 系列——Haiku、Sonnet 和 Opus：规模不同的模型，用户可以在智能、速度和价格之间权衡选择。据该公司称，Opus 在大多数常用基准测试上超过竞争对手；上下文窗口为 20 万个 token。¹⁴ ¶ cafmxgxnp
• 2024年9月12日OpenAI 发布 o1——一种推理模型：强化学习教它在回答之前先用思维链“思考”，其质量不仅随训练算力提高，也随思考时间增加而提高。¹⁵ ¶ c2aep9gte
• 2025年1月20日DeepSeek 发布 R1——一个以 MIT 许可证开放权重的推理模型；据该公司称，它在数学、代码和推理方面达到 o1 的水平。¹⁶ ¶ cbq5443qj
• 2026年10月7日OpenAI 在 ChatGPT 中向所有用户开放 GPT-6，包括免费用户。¹⁷ ¶ cb92g57km
• 2026年10月7日同一天，Anthropic 发布 Claude Haiku 5.5：据该公司称，其平均运行成本比 Haiku 4.5 低约 75%，每百万输入 token 的价格为 0.10 美元，而此前为 1 美元。¹⁸ ¶ csfz8waiq

工作原理

文本被切分成 token，模型根据前面所有的 token 给出下一个 token 的概率；回答就是由这样一步一个 token 拼成的。训练分两个阶段。预训练：模型阅读海量文本语料，学习续写它们；知识和能力就是在这一阶段获得的。后训练把“文本续写器”变成助手：教模型遵循指令，并按人们偏好的方式回答（RLHF）；对推理模型来说，还要教它通过一条带答案检验的长思维链来解决问题（强化学习）。⁶¹⁵

主要能力来自预训练。OpenAI 在 GPT-4 的技术报告中写道，模型的能力似乎主要来自预训练过程，而 RLHF 并不能提高考试成绩。¹⁹ 因此，模型竞赛首先是规模的竞赛：缩放定律承诺每投入一美元都能带来可预测的收益，而 Chinchilla 表明，数据与模型规模同样重要。¹⁷

模型内部发生了什么，长期以来一直是个黑箱。2024年5月21日，Anthropic 宣布找到了数百万个概念在 Claude Sonnet 内部的表示方式；用该公司的话说，这是“有史以来第一次详细观察”一个已投入生产使用的现代大语言模型的内部。例如，同一个特征会在用英语、日语、中文、俄语等语言提到金门大桥时被激活，看到金门大桥的图片时也会被激活。²⁰ ¶ capmi3s8r

数据

事件

Mata v. Avianca：ChatGPT 编造的法院判决，2023年6月 ¶ ct8pjche9

在一起起诉 Avianca 航空公司的案件中，原告律师向纽约联邦法院提交了一份文件，其中援引了并不存在的法院判决和编造的引文——这些都是 ChatGPT 杜撰的。2023年6月22日，法官凯文·卡斯特尔（Kevin Castel）对两名律师及其律所处以 5000 美元罚款：他们不仅提交了编造的内容，而且在法院质疑这些判决是否存在时仍然坚持。²⁷

批评

埃米莉·本德（Emily Bender）、蒂姆尼特·格布鲁（Timnit Gebru）及其合著者在论文“On the Dangers of Stochastic Parrots”（2021年3月）中把语言模型称为这样一种系统：它根据关于语言形式如何组合的概率信息，“胡乱地拼接”它在海量训练数据中见过的语言形式序列，却“与意义毫无关联”——一只“随机鹦鹉”。在他们看来，其文本的连贯性只存在于读者的感知之中。²⁸ ¶ cx8v9ep8f

杨立昆（Yann LeCun）于 2023年3月26日发布了一张幻灯片：“自回归 LLM 注定失败”。每个 token 都有一定概率让回答偏离正确的路径，误差呈指数级累积，不对架构进行重大重新设计就无法解决。²⁹ 他现在是 AMI Labs 的创始人，该公司正在构建以现实世界传感器数据训练的“世界模型”。³⁰ ¶ ccpxjcsqn

2025年9月4日，OpenAI 的研究人员这样解释模型的编造行为：训练和评估流程“奖励猜测，而不是承认不确定性”。在 10 个流行的基准测试中，有 9 个对“我不知道”的回答给零分，因此模型猜测更划算。³¹ ¶ cmt8ggmzu

作者和出版商在法庭上质疑用他们的文本训练模型这件事本身。2023年12月27日，《纽约时报》起诉 OpenAI 和微软；该案现已与其他针对 OpenAI 的诉讼合并审理，尚无判决。³² ¶ cur6y399x

在 Bartz v. Anthropic 一案中，法官威廉·阿尔苏普（William Alsup）于 2025年6月23日裁定，用书籍训练 Claude 属于合理使用——“极具转换性”——但保存盗版图书副本不属于合理使用。³³ Anthropic 同意支付 15 亿美元，约合每部作品 3000 美元；2026年7月20日，法院最终批准了该和解协议。³⁴ ¶ c3yvibi7r

发展

用模型自己生成的文本来训练无法替代人类数据：伊利亚·舒迈洛夫（Ilya Shumailov）及其合著者在《自然》上发表的论文（2024年7月24日）表明，如果不加区分地用生成的文本训练，模型会不可逆转地丢失原始分布的“尾部”——那些罕见和不寻常的内容。³⁵ ¶ cbar47t97

伊利亚·苏茨克维（Ilya Sutskever）2024年12月13日在 NeurIPS 大会上说，“我们所知的预训练无疑将会终结”：算力在增长，数据却没有，因为“我们只有一个互联网”；他把数据称为“AI 的化石燃料”。他认为接下来的方向是智能体、合成数据和回答时的计算。³⁶ ⧗ ¶ ci59hi8ky

事实也是如此：自 2024 年起，增长不仅来自预训练，也来自推理（推理模型），而且模型越来越多地独立工作——作为智能体，在智能体工程中，以及在数学中。安德烈·卡帕西在 2025年6月把 LLM 称为“一种新型计算机”，类似于操作系统：提示词就是程序，“而且值得注意的是，这些提示词是用英语写的”。³⁷ ¶ ccan4rb26