智谱已构建出最小的自我循环系统。模型优化系统,系统服务于模型。
近日,智谱首席科学家唐杰在社交平台上用这句话概括了智谱向递归自我改进(RSI)迈出的关键一步。
在智谱发布的《通往递归自我改进》报告中,一个由GLM-5.3驱动的Infra Agent,参与了GLM-5.3-Flash推理服务的搭建与优化。该服务运行在超过十万张国产AI芯片上,从首次运行成功到全面承接线上流量,仅耗时两周。
模型开始为自己工作。它帮助优化自身运行所需的系统,使推理速度更快、成本更低;优化过程中积累的任务、验证结果和修正经验,又成为后续研发的宝贵资源。唐杰所说的“最小闭环”,正是从这里开始运转。
这距离AI完全自主研发下一代AI仍有差距,但它引发了一个日益具体的问题:当模型逐渐接手原本由人类完成的研发工作,我们如何了解自我改进究竟进展到何种程度?
一次推理提速可以通过吞吐量和时延来验证;一个模型承担了多少自身研发工作,又该用什么来衡量?如果参与的Agent越来越多,人类还能否清晰掌握它们的行动,并及时进行干预?
Anthropic近日发布的《衡量前沿实验室内部AI的发展速度》恰好将讨论推进至此。它提出了三个测量维度:AI承担了多少AI研发工作,Agent的行动受到何种监督,以及算力在模型研发与安全任务之间如何分配。这相当于为正在运转的研发流程安装了三个仪表盘,让实验室外部的人也能观察到内部变化。
根据Anthropic披露的数据,截至今年8月,Claude已在人类监督下“主导”了26%的模型研发工作,而2月时这一比例还不到1%。不过,在其测量的研发工作中,尚无任何类别达到完全自主的程度。
智谱展示的工程实践,为“AI参与改进自身”提供了具体案例;Anthropic提出的测量方法,则尝试让这种变化能够被持续观察和检验。闭环如何运转,运转之后又如何衡量与监督,两篇文章由此指向了同一个问题。
在理解RSI最小闭环之前,需要先理解唐杰的新观点。过去人们理解RSI,第一反应是“模型变得更智能,智能到能自我进化”。
唐杰的理解恰恰相反:让循环运转起来的,并非智能,而是闭环。
一个系统即使不够智能,只要它能持续改进某个事物,并且有人能持续判断改进是否正确,循环就能成立。反之,一个再聪明的模型,如果没有人告诉它“你刚才那步对不对”,它即使运行几个月甚至几年,也只能原地打转。
因此,在唐杰看来,要形成闭环需要三块拼图。
第一,需要一个可被改进的对象。
模型无法直接修改自己的权重,但可以优化服务模型所配套的推理系统,例如kernel、并行策略、通信、内存管理和调度。
这就像在办公室里需要喝咖啡提神,但咖啡机和饮水机距离太远,每次去喝咖啡都要走很远。于是你把咖啡机搬到工位附近。
这样即使每天做的工作不变,也能提高效率。
唐杰认为,这套推理系统是实现闭环的关键。
第二,需要一个可验证的裁判。
改进完成后,必须有人能立即告诉模型改进是否正确,而且这个裁判不能成本过高,这个过程称为密集反馈。
正确性有参考实现,吞吐和时延有可比指标,对错能被客观裁决。也就是说,需要一把既便宜又精确的尺子。
第三,需要一个能自我供给的回路。
本轮完成的任务本身,会变成下一轮的训练场,循环因此不需要外部持续投喂,而是自己生长出下一圈。
三块拼图凑齐,循环才能自动运转。而智谱这次真正闭合的,就是第一块拼图:模型去优化推理系统。
虽然这个最小闭环无法真正提升模型的智能,但它降低了模型自我构建的成本。只有把自己的工作环境调整好,才谈得上提高效率。
推理更便宜,意味着相同的预算中能留出更多算力用于训练。服务系统更高效,下一代模型就能站在更稳固的台阶上。
基于这个闭环,GLM-5.3-Flash的生产推理服务运行在超过十万张国产AI芯片上,从首次运行到全面承接线上流量仅用两周,端到端吞吐量提升约三倍。
更关键的是循环中流动的内容。模型从SGLang、Flash Linear Attention、DeepGEMM等现有kernel中提炼出“优化骨架”,将适用条件和验证证据一并沉淀下来,验证过的做法回流成库,下一轮就更省力。
Agent完成的每个任务,都能从中继承。训练不再是一次性的,而是变成了一种复利。
就像我在写文章前会寻找参考资料,否则无法理解智谱文章中提到的关键信息。然后我把这些信息转化为大家能理解的大白话。同时,在找信息的过程中,我也能提升对RSI的理解,以便在下一篇文章中写得更好。
那么,这个循环能扩大到什么程度?
唐杰认为,扩大的本质,是将“可验证环境”从工程领域复制到更多领域。具体能扩大多少,取决于第二块拼图。
正如前文所述,这个裁判必须便宜、快速,而且其输出的结果能被客观验证。
凡是满足这三条的领域,都能被纳入RSI中,例如代码、数据处理、形式化验证,以及任何可被测量的系统。
反之,没有客观裁判的地方就无法扩大,比如战略、审美、叙事,那里找不到一把既便宜又精确的尺子。你说一个故事讲得好不好,模型说好、你说不好,谁说了算?
这个循环的瓶颈究竟在哪里。
唐杰在长文中表示,当那个Infra Agent卡住时,很少是因为它写不出代码,而是因为它不知道问题为什么会变糟。
例如,裁判反馈给AI,说它“吞吐量下降了20%”。这只说明有问题存在,但不说明是哪个层级出的问题、当前假设错在哪里、下一步该测试什么。
唐杰说,这是强化学习中遗留的老问题:稀疏奖励和信用分配。
通常需要等到一个动作全部完成、端到端运行结束后,才能获得一个“好”或“坏”的信号,而这个信号又无法归因到具体步骤,探索自然就会变慢。
就像考试,考完后老师说得了60分,但不告诉具体哪道题错了。于是只能把整张卷子重做一遍,猜测着修改。
可能修改了一个根本没错的地方,真正错的地方还留着。
不仅如此,端到端的基准测试动辄需要几小时。模型提出一个假设、修改一处代码,就得等上半天才知道对不对,探索因此变得非常缓慢。
然而,有一个很神奇的现象:一个干了10年基础设施的老工程师看到同样的问题,他优化这些问题可能只需要不到一小时。因为他有一套说不清的直觉。改完一段代码,他可能自己都不知道自己是如何判断的。
这些老工程师的想法就是“嗯,感觉不对,我去看看时间线”“嗯,这里可能要跑个microbenchmark比较一下”。
这套东西长在他脑子里,他说不出步骤,也写不成文档,但就是管用。
唐杰想做的事情,就是把老工程师脑子里那套“说不清但管用”的直觉,变成模型可以直接调用的分层验证接口。就像老师傅带徒弟一样,讲给AI听。
正确性反馈回答“算对了吗”,用参考实现和误差容限判断计算是否正确;系统行为反馈回答“时间花在哪了”,用执行时间线和运行时事件揭示计算、等待、通信之间的时序关系;性能反馈回答“哪个方案更好、在什么条件下”,用受控实验和可比指标判断哪条路真的更优。
原文给出了三个案例用于解释。
第一个是KV transfer。工程师先给Agent设定了一个验收条件:在相同负载下,Prefill加传输与纯Prefill的差距不应超过5%。
结果Agent发现,某些场景下这个差距超过了20%。这个反馈没有直接给出答案,但将调查范围缩小到了KV传输引入的额外开销和并发交互上。
师傅在灶上炒菜,菜炒好了就要端到餐厅去。本应是师傅炒下一道、服务员同时端走上一道,两不耽误。
结果传菜门只有一把钥匙,师傅炒菜时把钥匙揣在自己兜里。服务员要端菜出门,得等师傅掏钥匙开门。师傅炒嗨了,忘了掏钥匙这茬,服务员就站在门边干等。
Agent顺着时间线甚至一路追到了Python和C++,DeepEP的节点内路径没有显式释放GIL,同一进程里负责传输的Python线程因此抢不到锁,本该与计算重叠的KV传输被调度堵住。
进入C++并不会自动释放GIL,正是这个细节,解释了为什么底层明明支持异步,高层却没兑现。修好之后,Prefill加传输与纯Prefill之间的差距,从两成以上压到了1%以内。
第二个是KDA精度漂移。在kernel验证过程中,CP与非CP路径的结果出现了差异,调查于是转向并行执行引入的状态传播与合并计算。
Agent发现根源是tf32。原始实现里tl.dot默认用tf32计算以求性能,即使输入是fp32,这种更低的精度也会在状态矩阵的链式合并中不断累积误差,序列越长越明显。
老师在台上说了一句话,让第一排学生记下来,传给第二排,第二排传给第三排,一排一排往后传。
但是有个学生记笔记时偷懒了。他不是逐字记,只记了个大概意思。就像tf32为了跑得快,把小数点后面的位数砍了一半,每算一步就四舍五入丢一点精度。
第一排传给第二排,意思差了一点点,几乎看不出来。第二排传给第三排,又差一点点。传到第十排时,已经走样了。老师说的是“明天早上9点开会”,最后一排听成了“iPhone Duo太贵”。
修复办法是显式把精度提到tf32x3,在尽量保留Tensor Core性能的同时压低累积误差。这个修复后来还被合并回了Flash Linear Attention上游(PR #1180)。
第三个是解码kernel。Agent接到“计算是主要瓶颈”的反馈后,发现原始实现沿着V维度切分,导致同一段FP32归一化和门控计算被重复算了四遍。它把切分合并进同一个线程块,让中间结果常驻寄存器,用一次warp级归约替代重复计算,最终相对上一版提速1.71倍。
这两天唐杰在清华开课,教室里人山人海。有趣的是,唐杰这门课作业非常多。
作业清单如下:
从零写Tokenizer加Transformer,端到端训一个0.1B的模型;手写Triton attention kernel,自己测多卡训练和推理的增益;从raw dump洗语料,拟合scaling law再外推;在同一个基座上把SFT、DPO、RLVR做对照;搭可验证环境加harness,训长程Agent,鼓励self-judge loop。
交付方式为2到3人组队,英文NeurIPS格式,第16周现场演示。作业占40%,大项目占60%。
搭可验证环境、训长程Agent、鼓励self-judge loop,这三者其实就是“密集反馈”循环的简化版。
可验证环境,对应那个可被客观裁决的裁判;长程Agent,对应循环里那个执行者;self-judge loop,则对应“完成的任务变成下一轮训练场”的自举机制。
好消息是,Anthropic为唐杰留下的作业做了补充。
Anthropic认为,公众无法看到前沿实验室内部如何进行RSI。为了弥补这一信息差,它提议为“AI发展速度”安装三个仪表盘。
第一块,用于计算AI到底替人类承担了多少研发工作,基于Epoch AI的AL0到AL5六级标尺为每类研发任务打分。
截至2026年8月,Claude已经“主导”了26%的模型研发任务,而2026年2月这个数字还不到1%。
第二块,用于计算对AI Agent的监督程度。
在Anthropic最常用的内部平台上,随时约有3万个Agent在运行。它们的一举一动都要经过两道监控:线上监控在执行前实时拦截,线下监控在事后复盘。
2026年8月,超过十亿次决策中只有0.002%(约四万七千分之一)被拦截;线下监控每周标记约十万条记录,其中约五十条升级给人工复核。
第三块,追踪算力分配情况。在7月13日至20日这一周,Anthropic投向AI研发的算力中约6%用于安全,投向“AI驱动的研发”的算力中约12%用于安全。
Anthropic也承认,这些数字目前只能自己报告,既缺乏跨实验室的统一标准,也难免“自己评自己”。它的计划是引入独立第三方评估者,向它们开放内部流程、系统和数据。球盟会登录入口认为,这种外部监督机制对于确保AI发展的透明度和可信度至关重要。
本文来自微信公众号“字母AI”,作者:苗正,36氪经授权发布。