Gemini 1.5 Pro 发布：100 万 Token 上下文到底改变了什么
发布要点
2024 年 2 月 15 日，Google 发布 Gemini 1.5 Pro。说来有点委屈，它和 Sora 同一天亮相，头条几乎全被对方抢走，但这款模型带来的变化一点不小：它把上下文窗口一次性拉到 100 万 Token。
先理清定位，免得被版本号绕晕：
- Gemini 1.5 Pro 是中量级模型，不是旗舰。Google 自家的旗舰仍是 Gemini 1.0 Ultra，也就是订阅 Gemini Advanced 之后能用到的那个。
- 它采用 MoE（混合专家）架构：内部有很多「专家」子网络，每次推理只激活一部分，在总参数量很大的前提下把推理成本压下来——这也是它敢把上下文拉到百万级的前提之一。
- 标准上下文窗口 1M Token；Google 表示内部研究测试已跑到 10M 级别，但对外开放的就是 100 万。
- 它是原生多模态的：文字、图片、音频、视频可以混在同一次输入里。
100 万 Token 是什么概念
Token 不是字数，但可以粗略换算：英文约 1 Token 对应 0.75 个单词，中文大致 1 个汉字约等于 1–2 Token。100 万 Token 摊开来，大约是下面这个量级：
| 内容类型 | 100 万 Token 大约能装下 | 直观参照 |
|---|---|---|
| 英文文档 | 约 70 万词 | 一整套中篇小说系列，或数百页的合同与财报 |
| 代码 | 约 3 万行以上 | 一个中型项目的完整仓库 |
| 视频 | 约 1 小时 | 一场发布会或一集纪录片的完整录像 |
| 音频 | 约 11 小时 | 一整天的会议录音 |
对比一下就更有感觉了：GPT-4 Turbo 的上下文是 128K Token，已经是很多人眼里的「大窗口」；Claude 2.1 是 200K。Gemini 1.5 Pro 的 100 万，约是 GPT-4 Turbo 的 8 倍、Claude 2.1 的 5 倍。这不是挤牙膏式的参数升级，而是把「塞一本书进去问问题」从勉强可行变成了常规操作。
官方演示拆解
Google 这次放的演示很聪明，专挑以前做不了的任务：
- 在 40 多万词里找笑话：把阿波罗 11 号登月任务的完整通讯记录整份喂进去，让模型找出其中三处幽默片段并说明好笑在哪。考验的不只是「能装下」，还有在海量文本里精确定位冷门细节的能力。
- 给默片做情节问答：上传一部约 44 分钟的默片（巴斯特·基顿的《福尔摩斯二世》），直接问某个情节的内容、某件道具出现的时间点。换以前的工具，得先抽帧、再转录、再检索，流程长得多。
- 针尖检索（Needle in a Haystack）：在超长文本里埋一句特定的话，看模型能不能找回来——这是长上下文的标准压力测试。Google 称其检索准确率达到 99% 以上。
演示传递的信号很一致：Google 想证明的不只是窗口大，而是窗口大且找得到。
哪些场景真的需要长上下文
百万上下文不是所有人都用得上，但下面几类场景是实打实的受益方：
- 长文档一次读完：年报、招股书、法律合同、学术论文集，不用再切片拼答案，一次问答就能跨章节对照。
- 代码仓库级理解：把整个项目丢进去问调用链、问改动影响面，是长上下文最被低估的用法之一。
- 视频与音频内容分析：给一小时的课程录像出提纲、定位某个论点出现的分钟数、批量整理访谈录音，过去要人工听记的活可以先让模型出初稿。
- 客服与内部知识问答：把产品手册、历史工单整批装进去做问答原型，省去先搭检索系统（RAG）的工程量。
反过来，如果需求只是日常聊天、写邮件、改文案，128K 都绰绰有余，百万上下文不会让回答变聪明，只会让账单变贵。
怎么申请试用
发布当下，Gemini 1.5 Pro 没有向普通用户开放，走的是申请制：
- 开发者：到 Google AI Studio 提交候补申请，获批后可选用 1.5 Pro 测试；企业侧走 Vertex AI 的早期体验通道。
- 普通用户：暂时用不上。现在订阅 Gemini Advanced 用到的是 Gemini 1.0 Ultra，不要被「付了费就能用 1.5」的话术误导，两者是不同的模型。
提醒一句：排队期间网上已出现代申请、卖名额的中介，既没必要也有风险，等官方放量即可。
与 GPT-4 Turbo、Claude 2.1 对比
| 模型 | 上下文窗口 | 架构 / 定位 | 多模态输入 | 当前可用状态（2024 年 2 月） |
|---|---|---|---|---|
| Gemini 1.5 Pro | 约 100 万 Token | MoE，中量级 | 文本 / 图片 / 音频 / 视频原生 | AI Studio 与 Vertex AI 申请制 |
| GPT-4 Turbo | 约 128K Token | GPT-4 系列旗舰 | 文本 / 图片 | ChatGPT 与 API 已可用 |
| Claude 2.1 | 约 200K Token | Anthropic 旗舰 | 文本 / 图片 | 网页版与 API 已可用 |
单看窗口大小，Gemini 1.5 Pro 是断层领先；但选模型不能只看这一项：GPT-4 Turbo 的综合推理与生态成熟度、Claude 2.1 在长文写作上的口碑，都是各自的真实优势。窗口决定的是「能不能一次读完」，读完之后答得好不好，还要看模型本身的功力。
冷静看：长上下文不等于强推理
最后泼一点冷水。长上下文解决的是输入容量问题，不是思考质量问题：
- 窗口大，不代表注意力就均匀。业内早有「中间迷失」（Lost in the Middle）的研究结论：埋在超长文本中段的信息，被漏读的概率明显更高。针尖检索成绩好，不等于真实任务里样样找得到。
- 成本随长度涨。一次请求塞 100 万 Token，按量计费时不是小数，生产环境用之前先算账。
- 很多场景用检索（RAG）更划算：只喂相关的几页，又快又便宜。长上下文的杀手锏，是那些「不知道相关信息在哪、必须全量看一遍」的任务。
我们的判断是：百万上下文是一个方向性事件——上下文竞赛进入百万级，接下来就看其他家多久跟上、价格什么时候打下来。想了解 Gemini 家族的整体情况，可以先看本站的 Gemini 入门介绍，再决定要不要排队申请。同日发布的 Sora 吸走了全部注意力，但对大多数实际工作来说，长上下文可能才是离你更近的那个变化。
相关阅读
延伸阅读
免责声明
本文仅供技术交流和学习参考。涉及第三方服务的链接可能包含 sponsored 标记，请自行核实服务条款、价格和可用性，并遵守当地法律法规。