大模型到底是什么？一次讲清楚原理、能力与边界
所有关于大模型的神秘感，都来自没讲清一件事：它做的事极其简单，简单到令人意外——预测下一个词。
核心机制：预测下一个词
把大模型想象成一个极端强大的「输入法联想」。你在手机打字时，输入法会根据前文猜你下一个想打的字；大模型做的是同一件事，只是规模大到难以想象——它读了互联网规模的文本，参数量达到百亿到万亿级别，并且预测的不是一个字，而是被切分后的文本片段。
举个例子。给它「今天天气很好，我们一起去」，它会在内部给每个可能的下一个词打分：「公园」可能得高分，「冰箱」几乎得零分。它选出概率高的词接上去，然后把新句子再喂给自己，继续预测下一个——一个词一个词地往下生成，就是它全部的秘密。
这解释了几个常见现象：为什么它回答长问题时会跑题（每步都在猜，误差会累积）；为什么你换个问法答案就不同（改变了它预测的起点）；为什么它能写代码（代码也是文本，而且模式比自然语言更规整）。
为什么简单机制能产生复杂能力
这是最反直觉的部分：能力不是被设计出来的，是被"逼"出来的。
当模型规模、数据量和训练算力同时增长到某个量级后，会涌现出没有被专门训练过的能力——比如做多步算术、翻译小语种、解释笑话。研究者把这个现象称为「涌现能力」。它至今没有被完全解释清楚，也意味着我们很难预测下一代模型会突然会什么。
实践含义很重要：不要假设模型"不会"某件事，先测一下。很多你觉得它做不到的事，换个说法它可能就做到了。
Token：你被计费的真正单位
模型不按「字」或「词」处理文本，而按 Token——大致相当于一个词或词的一部分。英文里一个单词常被切成 1–3 个 Token；中文情况因模型而异，粗略估算一个汉字约对应 0.6–1.5 个 Token。
为什么你要关心 Token：
- 它是计费单位：绝大多数 API 按输入 Token 和输出 Token 分别计价，输出通常更贵。
- 它决定长度限制：模型的输入上限按 Token 算，不是按字数。
- 它影响成本优化：缩短提示词、减少冗余上下文，是直接省钱的办法。
上下文窗口：它的「工作记忆」
上下文窗口是模型一次能"看到"的文本总量（输入+输出合并计算）。窗口越大，你越能一次性丢给它整份文档、整个代码库。
但大窗口不等于大注意力。研究和实践都显示，模型对上下文开头和结尾的内容记忆最好，对中间部分容易忽略——这个现象被称为「中间迷失」。所以长文档处理的实用技巧是：把关键指令放在开头或结尾，把最重要的材料放在末尾，并明确告诉模型要找什么。
幻觉：为什么会一本正经地胡说
幻觉指模型生成了看似合理但事实上错误的内容。它不是 bug，而是机制的自然结果：模型的目标是生成概率上最连贯的文本，而不是最真实的文本。当它不知道答案时，它不会说"不知道"，而是会补全一个看起来最像答案的东西。
降低幻觉的四个实用做法：
- 给它材料，别让它凭空想：把原文贴进去让它归纳，比让它回忆事实可靠得多。
- 要求标注来源：让它说明每句话依据哪一段，无法对应的就是可疑内容。
- 要求它承认不确定：明确写"如果资料中没有，就回答未提及"，这句指令效果显著。
- 关键数字必须人工核验：日期、金额、人名、法条、统计数据，一律回到原始来源核对。
多模态：不止能处理文字
新一代模型普遍支持多模态：能看图、能听音、能生成图片。技术上通常不是"一个模型全都会"，而是把图像、音频编码成类似文本的表示，再放进同一个模型里处理。
实用价值最大的三个场景：截图提问（把报错截图丢进去直接问）、图表解读（让它读图并总结趋势）、文档识别（拍照提取表格和文字）。这三类任务目前的准确度已经足够进入日常工作流。
看懂 AI 新闻必备的术语表
| 术语 | 一句话解释 |
|---|---|
| 参数量 | 模型内部可调数值的多少，粗略代表"脑容量"，但不是唯一决定因素 |
| 预训练 / 微调 | 预训练是打通用基础，微调是在特定领域上再训练 |
| 推理 | 训练完的模型实际回答问题、生成内容的过程 |
| 上下文窗口 | 一次对话中模型能"看到"的最大文本量 |
| Token | 模型处理文本的基本单位，也是计费单位 |
| 幻觉 | 生成看似合理但事实上错误的内容 |
| RAG（检索增强生成） | 先检索你的资料，再让模型基于资料回答，显著降低幻觉 |
| 多模态 | 同时处理文字、图像、音频等多种输入 |
| 蒸馏 | 用大模型教出小模型，牺牲部分能力换速度和成本 |
| 开源 / 闭源权重 | 前者可自行部署和改造，后者只能通过接口调用 |
| 温度（Temperature） | 控制生成随机性，越低越稳定保守，越高越发散 |
| 智能体（Agent） | 让模型能调用工具、执行多步任务，而不只是生成文本 |
延伸阅读：四类常用 AI 工具怎么选、怎么用 · 零基础上手 AI 的七个步骤