AI 这些大模型的上下文长度是啥意思?比如说上下文长度 1M 是是啥意思?还有常见的长度,给我举例一下。
你可以把大模型的上下文长度(Context Length)想象成它的“短期记忆工作台”的大小。
这个工作台,决定了你跟它聊天时,它一次性能“看”到多少内容,并且能记住前面的对话不健忘。
1. 先搞懂单位:不是“字”,是 Token
模型眼里的文字不是一个个汉字,而是被切成的碎片,叫 Token(词元)。
- 中文里,大致 1 个汉字 ≈ 1~2 个 Token(常见字1个,生僻词可能2个)。
- 英文里,大致 1 个 Token ≈ 4 个字符,或者说 ¾ 个单词。
- 代码、标点符号也都要占 Token。
所以“上下文长度 1M”,意思是这个工作台最多能放下 100 万(1 Million)个 Token 的信息(你发的 + 它回的,加起来算)。
2. 1M 上下文到底有多大?
按中文粗略换算,1M Token ≈ 70万~100万字。
帮你具象化一下:
- 📚 书籍:大约等于 3~4 本《三体》 全集,或者一整套《哈利·波特》1~7 部。
- 💻 代码:能把一个中型项目的几万行源代码整个塞进去,让它帮你找 Bug、写文档。
- 🎬 视频/音频:Gemini 1.5 Pro 演示过,直接喂进去 1 小时的无字幕电影,它能回答“第 42 分钟那个穿红衣服的人说了啥”。
- 📑 文档:一次性丢进去 上千页的 PDF 财报/合同/论文,让它跨文档对比分析,不用你手动分段复制。
3. 常见上下文长度“档位”举例
你可以对照这个演进史来看:
| 档位 | 大约汉字量 | 代表模型(举例) | 能干啥 |
|---|---|---|---|
| 2K~4K | 1500~3000字 | 早期 GPT-3、ChatGPT 刚出来时 | 聊个天、写个短文案,超过就忘开头 |
| 8K~16K | 6千~1.2万字 | GPT-3.5-turbo-16k、早期 Claude | 读一篇长论文、写一章小说 |
| 32K~128K | 2.5万~10万字 | GPT-4-Turbo (128K)、Llama 3 (128K)、智谱/通义早期长版 | 塞进一本短篇小说、几十页合同、中等代码库 |
| 200K | 约15万字 | Claude 3 系列 (200K) | 一次性读完《小王子》+《动物庄园》还有富余,法律/金融文档神器 |
| 1M~2M | 70万~150万字+ | Gemini 1.5 Pro (最高 2M)、部分国产模型 1M 版 | 整季剧本、整个代码仓库、几小时会议录音转写,全量消化 |
💡 现在很多国内模型(通义千问、豆包、Kimi、智谱等)也都卷到了 128K ~ 1M 这个区间,Kimi 早期就是靠“支持 200K 汉字长文”出圈的。
4. 为什么这个数很重要?
- 不丢上下文:长度太小,聊到第 20 轮它就忘了你第 1 轮说的“我叫小王,只用 Python”。
- 能干重活:以前分析 500 页 PDF 得自己切块、做向量数据库(RAG);现在直接整个文件甩进去,它自己通读后回答,跨章节推理更准。
- 代价:上下文越长,单次调用越慢、越贵(因为要计算的注意力多了),而且“中间部分”的信息有时候会被它忽略(这就是所谓的 Lost in the Middle 问题)。
一句话总结
上下文长度 = AI 的“眼前能摊开多少资料”。
- 4K:便签纸大小
- 128K:摊开一本厚书
- 1M:把整个小图书馆搬到你面前,它能一页页翻着给你做读书笔记。
下次看到“支持 1M 上下文”,你就想:这哥们能一口气背下三四大本砖头书再跟我聊天,大概就不会懵了 😄。
