大模型是怎么从只会聊天，
变成工作助手的？

1 大语言模型是整座塔的底座

LLM（Large Language Model，大语言模型）做的事很单一：看到一串文字，预测「后面最可能接着什么」。聊天、写代码、做摘要，底层都是这件事。它是后面所有能力的基石，但基石不等于整栋楼。

2 没有手，也没有今天的新闻

训练结束后，模型参数就冻住了。它不知道此刻上海下不下雨，也看不见你硬盘里的文件。你若硬问，它往往仍会「答」——那是在续写一个听起来像答案的句子，不是去查了。这种编造，常叫幻觉。

1 Token 更像碎片，不一定是一个词

Token（词元）是模型读写文字的最小计费与计长单位。英文一个词可能被切成几片，中文一个字常常对应 1～2 个 Token。所以「它读了多少字」和「它吃了多少 Token」不是一回事。

比如这句话，对人是 7 个字；对模型更像若干碎片（切法随分词器而变，用来建立直觉即可）：

「上海今天的天气」≈ 几个 Token，不是「7 个字 = 7 个 Token」。

2 窗口和账单都按它算

一次能塞进模型的内容有上限，这个上限按 Token 计，不按页数计。工具返回的一长段天气 JSON、你贴进去的整份日志，都会占额度。额度用满，更早的内容就要被丢掉或压成摘要。

1 上下文 = 这一次摆上桌的所有纸

Context（上下文）是这一次请求里模型能看见的全部文字：系统设定、可用工具清单、此前的对话、你刚说的话，以及工具刚返回的结果。它不是大脑里的长期记忆，更像一张面积有限的书桌。

2 「没有历史记忆」是机制，不是比喻

模型本身是无状态的：每次调用，对它都像第一次见面。你觉得它「还记得上一句」，是因为中间的平台（ChatGPT、Cursor 这种套在模型外面的程序）把旧消息重新拼进 Context，再整包发给它。关掉会话、换一个窗口，桌上的纸就没了。

1 提示词也是上下文的一部分

Prompt（提示词）不是魔法咒语，就是写进 Context 里、用来规定「你是谁、要干什么、别干什么」的文字。同一模型、同一窗口，指令不同，人设和边界就不同。

2 系统提示 vs 用户提示

系统提示通常藏在产品后台：例如「你是助手，不确定就说不知道，不要假装查过天气」。用户提示是你打出去的那句。后面的工具说明、Skills 手册，本质上都是写得更结构化的 Prompt。

1 工具是一次动作，不是「更聪明」

Tools（工具）把模型够不着的事变成可调用的动作：读本地文件、查天气预报、搜索附近店铺。动机很具体——知识会过期，手也不长在模型身上。

2 四个角色，缺一不可

最容易讲错的一点：LLM 并不真正执行工具。它只输出「我想调天气查询」。真正去调接口、读文件、再把结果塞回对话的，是中间的平台（运行时 / Host）。

1 以前每家一个口

OpenAI 有自己的函数调用写法，Anthropic 有自己的工具协议，其它厂商还有各自的声明方式。同一个「查天气」，换一个模型就要重接一遍。工具越多，对接成本越高。

2 先分清三个容易混的词

OpenAI 是一家模型公司；OpenAPI（常被叫 Swagger）是描述 HTTP 接口长什么样的规范，不管模型怎么用；MCP（Model Context Protocol，模型上下文协议）管的是：工具如何被发现、连接、调用。天气预报服务可以做成一个 MCP 服务，但 MCP 本身不是天气预报。

1 工具会动手，手册教「何时动手」

定位、天气、店铺是三个工具。但「先定位 → 再查天气 → 下雨才找伞店」是一套做法。把这套做法写成可复用的说明书，就是 Skills（技能 / 作业手册）。Cursor、Claude 里常见的 SKILL.md，就是这种东西。

2 不必把整本手册永远摊在桌上

Skills 的另一个用处是省窗口：平时只告诉模型「有哪些手册、什么情况下打开」；真正相关时再把详细步骤加载进 Context。过去反复调教出来的标准流程，就不用每次从零写进 Prompt。

1 聊天机器人停在「答一句」

Agent（智能体）不是另一种模型，而是一套围绕目标转的循环：看桌上的纸 → 决定下一步 → 若需要就调工具 → 把观察结果放回桌上 → 再想，直到能交差，或步数用尽、出错、需要人点头。

2 一条典型的办事请求

「我这里天气怎么样？如果下雨，帮我查附近有没有卖伞的店。」这句话一个工具不够：要先定位，再查天气，满足「有雨」才去查店。Agent 的价值，就是把这种多步、带条件的事串起来。

3 循环必须能停

不停地调工具会烧 Token，也可能误操作。常见刹车：目标已经达成、达到步数上限、工具报错、以及危险动作要人确认（删文件、付款）。有手之后，权限和人在回路不是附加题。