链接已复制!

Gemini 3.1 的灭绝:为什么向量数据库已死

谷歌于 2026 年 2 月 19 日发布的 Gemini 3.1 Pro 将精英代理推理与 100 万个令牌的上下文窗口相结合,从结构上使 20 亿美元的向量数据库市场对于有界企业工作流程变得过时。

🌐
机器翻译

本文由英文原文自动翻译而成。 阅读英文原文

一个发光的未来主义数据核心,形状像一个立方体,裂开并分解成黑暗的沙子,而一个巨大的、单片的、发光的蓝色几何人工智能结构在背景中升起,吸收着松散的数据。没有文字,照片写实,高对比度,变形镜头光晕。

2026 年 2 月 19 日,Google 悄然向开发者和企业订阅者推出了 Gemini 3.1 Pro。主流科技媒体立刻聚焦于其基准测试分数,尤其是它在 ARC-AGI-2 推理测试中取得的 77.1%,这一成绩相较上一代提升了一倍以上。

但若将 Gemini 3.1 简单视为一次渐进式智能升级,那是严重的分析盲区。

当精英级智能体推理与严格固定的 100 万 token 上下文窗口结合,你得到的不仅仅是一个更聪明的基础模型。你会引发企业人工智能(AI)基础设施栈的结构性崩塌。AI 热潮中最赚钱的中间层——向量数据库——如今已是行尸走肉。

过去两年,企业向 Pinecone、Milvus 等基础设施提供商投入了数十亿美元,用于构建检索增强生成(RAG)流水线。RAG 是 AI 革命的胶带。它是一种架构层面的权宜之计,用来弥补模型无法在庞大数据集上保持记忆或进行跨数据推理的缺陷。随着 2 月 19 日 Gemini 3.1 Pro 的发布,Google 撕掉了这条胶带。

胶带式架构

要理解这场灭绝事件,你必须明白 2023 至 2025 年 AI 时代的基本工程约束:上下文失忆。

当企业想构建一个 AI 智能体来分析内部文档,比如 10,000 页法律合同时,它会遇到一个硬性限制。早期生成式模型每次只能处理约 8,000 到 128,000 个 token。如果你把整个文档库喂给模型,它要么崩溃,要么产生幻觉,要么遭受“中间迷失”现象——即干脆忘记文档的核心细节。

向量数据库登场。

行业解决方案是把这些 10,000 页文档切成细小的文本块,再用数学方法将这些文本块转换为名为 embeddings 的高维坐标,并存储在专门的 Vector Database 中。当操作员提交查询时,应用并不会真正要求基础系统去读取文档。相反,它会在向量数据库中进行语义搜索,检索出最相关的五个文本块,把这些文本块打包进一个简短提示词,再交给系统生成答案。

这种架构催生了一个庞大的子产业。2024 年全球向量数据库市场价值 $2.11 billion,预计以 25.5% 的复合年增长率(CAGR)增长,到 2032 年接近 $13 billion。几乎每个现代企业 AI 应用都是由嵌入模型、向量存储限制、路由层和检索流水线拼凑而成的。

为量化这种复杂性,请看标准 RAG 延迟公式:

Tresponse=tembedding+tvector_search+tLLM_generation+tnetwork_overheadT_{response} = t_{embedding} + t_{vector\_search} + t_{LLM\_generation} + t_{network\_overhead}

每个变量都代表一个独立的供应商、一个独立的故障点和一笔额外的成本。它精巧、复杂,且完全只是过渡方案。

黑曜石记忆的物理机制

向量数据库市场的前提假设是:上下文窗口将一直昂贵、狭窄且在结构上脆弱。Gemini 3.1 Pro 以强悍的原生效率粉碎了这一假设。

凭借 100 万 token 的上下文窗口,Gemini 3.1 Pro 可以原生吞入约 3,000 页密集的技术文档,无需切片、无需 embeddings、也无需外部数据库。但长上下文并非新概念。Google 数月前就已推出实验性的百万 token 版本。

真正触发灭绝的是推理能力的升级。以前,如果你给 AI 喂入百万 token,它就像一个粗心的实习生。它能总结文本,却难以处理跨离散数据点的复杂多步逻辑。Gemini 3.1 Pro 针对软件工程和金融工作流做了深度优化,拥有分析师所称的“obsidian memory”。它不仅能保存数据,还能以高保真、原生的智能体推理方式操控数据。

设想一家法律科技公司正在构建自动化尽职调查智能体。

旧栈(RAG):

  1. 操作员上传 50 份合同。
  2. 定制软件将合同切片。
  3. 嵌入模型生成向量。
  4. Pinecone 原生存储这些向量。
  5. 搜索查询检索出文本块。
  6. 基础模型综合这些文本块。

新栈(Gemini 3.1 Pro):

  1. 操作员上传 50 份合同。
  2. Gemini 3.1 Pro 直接阅读并输出分析结果。

对开发者而言,去掉中间检索层意味着消除了巨大的延迟约束、复杂的同步逻辑,以及实实在在的数据库托管费用。原本每月 $5,000 的基础设施账单,可以压缩为一笔固定的 API token 费用。

RAG 检索的财务机制

要完全理解企业市场为何会剧烈转向、远离向量数据库,你必须分析规模化 RAG 部署的真实单位经济性。

主流叙事认为,RAG 是原生上下文的廉价替代方案。这在云服务商对每百万 token 收取天价 API 费用的确成立。然而,RAG 的成本不只是嵌入 API 或生成推理。真正的成本在于云计算中的持久内存分配。

向量数据库严重依赖 RAM(随机存取存储器)来实现亚毫秒级相似性搜索。存储 10 亿个 768 维向量大约需要 3 TB 内存。这需要高度配置的专业云实例 7×24 小时运行,无论是否有人在查询数据库。

相反,原生上下文窗口是按次计费的。当你直接把 100 万 token 传入 Gemini 3.1 Pro 时,你只需为特定推理请求中实际使用的计算周期付费。生成结束后,计算资源降为零成本。

当你把每年 $50,000 的持久向量托管账单,与完全按使用量线性扩展的交易式 token 费用相比,任何大型企业的首席财务官都会要求在间歇性、专业化任务上转向原生上下文窗口。

交易成本的陷阱

然而,宣称原生上下文窗口全面胜利,忽略了推理经济学中一个残酷现实:交易税。

虽然把计算资源降到零听起来很高效,但在高查询量下,每次查询都传入 100 万 token 的上下文,费用高得惊人。如果一家企业智能体每天针对一份 3,000 页的文档处理 10,000 次查询,每次都要为完整摄入 100 万 token 支付 API 输入费用,那么 IT 预算的消耗速度将远超每年 $50,000 的向量托管账单。

此外,“中间迷失”现象并未被彻底治愈。独立测试表明,尽管 Gemini 3.1 Pro 拥有顶尖推理能力,但与混合向量-图架构(如 GraphRAG)的精确、外科手术式检索相比,海量输入仍可能导致事实幻觉或被忽略。现实是,新栈或许不会彻底消灭向量数据库,而是迫使它进化为高度专业化的缓存与语义路由层——确保模型只摄入它需要的精确 token。

聪明钱的退守方向

这是否意味着 Pinecone、Weaviate 和 Milvus 明天就会破产?不是。但机构层面的现实是,它们正被猛烈地挤到角落。

向量数据库不会完全消失。它们正在退守到原生上下文窗口在成本或技术上都无法竞争的领域:对数十亿高频更新文档的实时搜索、海量消费者查询,以及对 pinpoint 精度有要求的结构化图检索系统。如果你是每秒搜索十亿用户帖子的社交媒体巨头,或是需要精确结构精度又不愿为百万 token API 调用付费的企业,你仍然需要高速向量检索。

但这并不是早期风险资本轻易涌入的方向。

向量数据库的爆发式增长预期,完全建立在有边界的企业用例之上:抓取人力资源 Wiki、分析专有代码库、查询有边界的金融档案。这些数据集很容易就能装进 100 万 token、乃至很快扩展到 200 万 token 的窗口。

当你把这些有边界的企业应用从向量数据库的总可寻址市场(TAM)中剔除后,2032 年 $13 billion 的预测就会化为泡影。机构投资者明白这一点。正因如此,行业正看到投资从中间件基础设施撤离,资本重新回流到掌控算力的基础模型 hyperscaler 手中。

系统设计与延迟

摆脱向量嵌入最深远的影响之一,是降低了架构认知负担。

在构建传统检索增强生成系统时,开发者要不断调整分块大小、重叠比例,并试验不同的嵌入流程。如果向量数据库返回了错误的文本块,最终生成结果就会出错,无论底层架构多强大。这造就了一个脆弱的系统,调试时需要像取证一样追踪向量相似度分数。

借助 Gemini 3.1 Pro,开发者实际上把整个检索机制卸载给了 Transformer 的注意力头。由于模型能完整地看到整份文档,它在前向传播过程中就在内部完成了搜索。应用代码从数千行编排逻辑缩减为一个简单的 API 调用。

基础设施整合

市场正在见证的是一场经典的技术平台整合,让人想起早期互联网中间件的崩塌。

20 世纪 90 年代,搭建一个网站需要由独立路由、托管和内容管理工具组成的复杂栈,繁荣的中间件厂商生态曾拥有数十亿美元估值。最终,像 Amazon Web Services 这样的平台将这些服务统一为原生、无摩擦的基础能力。

Google 正在执行完全相同的剧本。通过在模型架构内部原生解决记忆保持与推理问题,它让外部记忆系统对绝大多数 B2B 应用而言变得过时。

这是 AI 革命的隐性代价。hyperscaler 不仅在打造更聪明的模型,还在吸收周边基础设施的价值。随着 Gemini 3.1 Pro 的发布,Google 已经发出信号:RAG 拼凑时代已经结束。企业 AI 的未来不再涉及搜索数据库。只需向一台永不遗忘的机器提问。

资料来源

Advertisement

🦋 Bluesky 讨论

在 Bluesky 上讨论

正在搜索帖子...