旗下矩阵

  • 投资界
  • 天天IPO
  • 解码LP
  • 并购
  • 前哨
  • 投资界AI

AI开始给自己写代码了!GPT-5.6重写内核,服务成本直降20%

7月29日OpenAI称,GPT-5.6优化内核使服务成本降20%,token生成效率提升超15%,形成闭环,推动模型更强、服务更多人,竞争轴也在转变。
·微信公众号:新智元 ASI启示录 ASI启示录

AI投资人解读

· GPT-5.6 优化 OpenAI 生产系统,使服务成本降 20%,token 生成效率提升超 15%。其通过分析流量、重写内核等优化多个环节,形成闭环,提升推理效率。
· 目前 GPT-5.6 未改变自身主体权重,仍需人工审核验证。未来自动验证体系若跟不上,会限制其发展。
总结:GPT-5.6 展现出强大的自优化能力,提升了 OpenAI 的运营效率。虽未真正实现自我进化,但为递归自我改进奠定基础。推理效率成为竞争关键,其飞轮效应已现,值得关注其后续发展及对行业的影响。

这回,AI开始为自己写代码了!

GPT-5.6一上线,接到的第 一个大活,就是给自己的运行环境来了一次大「翻修」。

它自主重写、优化了OpenAI线上那套底层代码,也就是真正负责跑模型的生产GPU内核。

7月29日,OpenAI官方甩出一组数字:

GPT-5.6 Sol参与的内核优化,让OpenAI对外的服务成本降了20%;推测解码的改进,让模型生成token的效率提升超过15%。

这次GPT-5.6动的不是一个跑在演示环境里的Demo,而是OpenAI正在线上跑的,每天承载十亿级用户请求的那套生产系统。

用OpenAI总裁Greg Brockman的话说:让GPT-5.6 Sol去提升生产服务效率,正是它又强又便宜的原因之一。

而OpenAI内部,早已形成一套完整的打法,Codex掌门人Tibo(Thibault Sottiaux)把它概括成两步:

第 一步,训出一个足够强的模型;

第二步,用这个模型去把一切变得更好,包括运行它自己的基础设施、推理栈和内核。

01、20%是怎么省出来的?

这20%的服务成本,到底是怎么省出来的?

GPT-5.6 Sol通过Codex,接进了OpenAI的生产推理栈,碰的全是推理栈里最核心的几块:GPU内核、负载均衡、推测解码、KV缓存。

负载均衡,翻译成人话就是别让某几张卡忙到冒烟,而另外几张卡却只是闲着;

KV缓存,是把算过的中间结果存下来重复用,不做无用功;

推测解码,是让一个小模型先抢答、大模型只负责验收。答对了,一次就能多输出好几个字,不用像平常那样一个字一个字慢慢挤。

然后再看GPT-5.6 Sol干了什么。

它分析真实的生产流量,揪出以前被忽略的负载不均,测试新的路由策略;

它自主重写了用Triton和Gluon这两种GPU编程语言写成的生产内核,专门去找那些能预先算好、能跳过、能并行的活儿;

在推测解码环节,它针对配套的draft模型,设计并跑了数百次架构实验,还自己启动、盯着训练流程,遇到硬件故障和训练不稳定,自己主动介入。

这些环节一个个抠下来,最后就换来了开头那两个数字:服务成本降20%,token生成效率涨15%+。

其实早在7月9日GPT-5.6发布时,OpenAI就已透露端倪。

内部研究员已经在用它排查故障、优化训练系统、跑实验、解释结果,还专门给它设了KernelGen、NanoGPT、RSI Index这几项「自我改进」评测。

这次降本20%,意味着这些布局,第 一次变成账单上实打实的数字。

02、比节省20%更重要的,是一个闭环

真正重要的变化,是一个闭环跑通了。

分析流量、提出优化、写出代码、跑完实验、处理掉故障,再拿生产指标回来验证结果,现在这条回路的每一环,模型几乎都能参与。

拿推测解码举例。

这个技术要配一个更小的draft模型,GPT-5.6 Sol针对这个draft模型,设计并跑了数百次架构实验,改尺寸、改结构、改特性。

数百次实验,过去这要靠一个稀缺的GPU工程师,凭着经验和直觉,一个配置一个配置地手工试,试上几个月。

配置空间太大,大到人根本试不完,只能靠粗糙的经验法则拍脑袋。

现在,模型能把这个「测量、优化、验证」的循环压到极短。于是,团队能探索更多想法,更快跟上不断变化的负载。

更关键的是,这个闭环,还会自己滚起来。

模型越强,越能把推理栈优化得越省;越省,同样的硬件就能服务越多请求;服务的人越多,OpenAI就能把更强的模型铺给更多的人用。

OpenAI的内部数据能佐证这个环转得有多快:

GPT-5.6内测阶段,每位活跃研究员的日均token输出,是GPT-5.5时代最高值的两倍以上;过去半年,用于内部代码推理的研究算力占比涨了100倍,内部智能体token用量涨了约22倍。

省下的每一分算力,最后都变成了让更多人能用上的智能。

03、AI开始自进化了吗?

那么,这到底算不算「AI开始自我进化」?

至少现在,还不算。

GPT-5.6 Sol优化的,是运行自己的软件、服务配置,还有辅助的draft模型。

没有证据表明它在线改动了自己的主体权重,也没有证据表明它能脱离工程团队,自己升级出下一代模型。

如果把权重比作模型智能的「货物」,内核和配置就是运货的卡车和路线。它这次优化的是运输,还没碰到货物。

因此,更准确地说这是「自优化飞轮」的早期形态,不是递归自我改进。

还有一点要注意。

官方这次用了「自主(autonomously)」来形容内核重写和部分实验,但不等于「完全无人参与」,目标由谁定、接进哪套生产系统、拿什么工具验证、怎么部署上线,这些环节都还牢牢攥在OpenAI的工程体系手里。

比如验证环节:模型写完的生产内核,要经过审核才能上线。

OpenAI专门搬出一个叫FpSan(浮点消毒器)的开源工具,检查这些内核的结构和数据流对不对。

自动验证体系跟不跟得上,才是「敢让AI写底层代码」的真正瓶颈。

往前看,OpenAI也一直在为RSI(Recursive Self-Improvement,递归式自我改进)铺路。

早在2月,GPT-5.3-Codex就被官方形容为「参与了自己的创造」;这一次,GPT-5.6 Sol又自主后训练了更小的Luna;在内部专门衡量自我改进能力的RSI Index上,它比GPT-5.5高出16.2分。

老对手Anthropic的一个判断更激进:

人类如今只对个位数百分比的方向性决策负责。

其联创Jack Clark更是称2028年底前出现完整的递归自我改进,概率超过60%。

飞轮是转起来了,但真正的「AI自己造AI自己」还在路上。

04、竞争轴变了:从谁GPU多到谁榨出更多token

这20%,意味着同样一批卡,OpenAI现在能多接两成的活。

它指向一个更大的变化。

过去几年,AI公司比的是谁买得起更多GPU。这套逻辑简单粗暴,也砸钱如流水。

但在一个算力永远不够、需求涨得比产能快的世界里,另一个关键变量已经浮出水面:同样一批卡,谁能榨出更多token?

推理效率,正在变成和芯片数量同样重要的筹码。

OpenAI自己已经用产品线投了票。

GPT-5.6这次一口气分成Sol、Terra、Luna三档,就是要主打一个卖点:同等智力,更少token。

效率,被摆到了和智能同样重要的位置。

而这一次,帮OpenAI的模型提升推理效率的,正是模型自己。

模型越强,越能优化推理栈;推理栈越高效,同样硬件就能服务更多token;成本一降,更强的模型又能铺给更多人用。

这个飞轮,OpenAI已经让它转起来了。

【本文由投资界合作伙伴微信公众号:新智元授权发布,本平台仅提供信息存储服务。】
【免责声明】:本文不构成任何投资建议。市场有风险,投资需谨慎。
如有任何疑问,请联系(editor@zero2ipo.com.cn)投资界处理。