page contents
跨境关条
Ctrl + D 收藏本站
当前位置:首页 » AI学习圈 » AI通识

DeepSeek开源DeepInfer:大模型怎样才能跑得更快、更省?

mogoec 2026-10-22 6

四天三项更新:DeepSeek把模型、搜索和推理框架都推上了台面

10月17日,DeepSeek更新了V4.1-Flash,推出1017版本;同日开放Search与Fetch API。10月20日左右,DeepSeek又将内部推理框架DeepInfer开源。

三项更新分别落在模型能力、网络信息检索和模型部署上。对关注AI学习的人来说,值得看的不只是某个榜单分数,也包括AI如何找资料、如何运行,以及把模型部署起来还需要哪些工程条件。

模型更新:分数提升了,比较时仍要看测试条件

DeepSeek公布的数据显示,V4.1-Flash-1017在DeepSWE v1.1上得分77.0,前一版为74.2;Terminal-Bench 4.0得分42.3,前一版为31.2。官方说明,DeepSWE测试使用Mini-SWE-V2框架,Terminal-Bench 4.0使用Claude Code框架。API调用方式和价格则保持不变,开发者仍可用deepseek-flash调用新版模型。

这组成绩适合用来观察同一模型系列的版本变化,但不宜直接拿一个分数给所有模型排座次。评测集、运行框架、推理设置和计分方式都会影响结果;目前这些分数来自DeepSeek自己的公告,读者应把它们理解为厂商公布的测试成绩。

这次更新还强调了“自反馈强化学习”和从零构建项目的能力。官方展示了3D建模、网页赛车游戏等案例。对普通用户而言,可以把它理解为模型更着重处理一段完整任务:从理解需求、生成代码,到逐步拼出可运行的结果。但演示案例不等同于每个项目都能一次成功,实际效果仍要看需求描述、工具环境和模型给出的代码是否经过检查。

搜索API:AI能找到网页,也要看网页是否可信

过去,AI模型常依赖训练时学到的信息回答问题;接入搜索后,模型可以检索最新网页,再将检索结果用于回答。DeepSeek这次开放的Search API用于找网页并返回结构化结果,Fetch API则能读取单个网页并以Markdown形式返回内容,可供AI助手或检索增强生成(RAG)应用使用。

DeepSeek称,其搜索服务会识别并过滤SEO作弊、GEO操纵和低质量AI生成内容。这里的GEO,即生成式引擎优化,泛指让内容更容易被生成式AI检索或引用的做法;通过准确、清晰的内容帮助AI理解信息,和批量制造虚假内容、操纵AI推荐,性质并不相同。央视财经在今年3月15日的报道中,也披露了利用GEO手段干扰大模型信息获取的案例。

需要留意的是,DeepSeek公开的是过滤目标和产品说明,目前公告没有给出独立评测的识别准确率或误判率。因此,“提供了过滤机制”不等于搜索结果永远准确。涉及健康、消费或重要决策时,读者仍应点开来源,核对发布机构、原始材料和时间。

费用方面,Search和Fetch均按成功请求计费,每1000次为0.75美元;截至发稿,通过DeepSeek Harness、Claude Code和Codex调用的服务端搜索工具暂免收费,文档列出的计费开始时间为北京时间11月1日零点。

DeepInfer开源:模型之外,推理系统也影响成本

模型负责生成结果,推理框架则负责让模型在硬件上运行起来:如何安排计算、调度请求、分配显卡资源,以及处理重复计算。可以把模型看作发动机,把推理框架看作调度系统和生产线;发动机性能再强,资源调度不合理,服务速度和成本也会受影响。

DeepInfer是DeepSeek面向大规模推理服务的框架。开源仓库目前支持DeepSeek-V4.1-Flash,并提供推理运行时、调度和若干优化功能。DeepSeek也说明,完整服务还需要KV缓存系统、不同推理阶段的资源拆分,以及跨副本负载均衡等组件;这些内容并没有完整包含在此次开源版本中。

DeepSeek在部署问答中称,单一集群每天处理155万亿Token,按闲时价格计算,每GPU小时收入38美元。这些是DeepSeek公布的生产服务数据,并非独立机构统一条件下复现的结果。它们说明大规模推理系统的工程优化可能带来显著效率,但不能据此认为只要下载DeepInfer,就能直接达到同样的吞吐量或收入。

DeepInfer使用Apache 2.0协议,允许在遵守许可条款的前提下使用和商用。对开发者和研究团队来说,开源的价值在于可以检查实现、尝试部署并据此改进;要把它变成稳定服务,仍需要匹配的硬件、存储和运维能力。

对AI学习者来说,三项更新分别意味着什么?

这轮更新呈现出一条完整的技术链:模型负责理解与生成,搜索工具负责接入外部信息,推理框架负责把模型稳定、高效地运行起来。学习AI时,可以从三个实际问题入手:

  • 看模型成绩时,先看测试条件。 留意评测集、模型版本、调用工具和计分方式,再判断分数能说明什么。
  • 使用AI搜索时,追溯来源。 要求AI给出原始链接,核对信息是否来自权威发布者,尤其是健康、金融和产品推荐。
  • 理解开源部署时,区分模型与服务。 权重或推理代码开放只是起点,部署成本还取决于硬件、缓存、调度和运维。

DeepSeek这四天的更新,提供了一个观察大模型技术栈的好例子:模型能力是用户最容易看到的一层,而信息检索和推理系统,则决定了回答从哪里来、服务能否高效运行。

关注本站,每天分享跨境电商前沿资讯( Ctrl + D 收藏本站/收藏为书签 )

相关推荐

评论 ( 0 )

扫码关注

qrcode

联系我们

qrcode

回顶部