RSI(自进化)方法汇总:五篇论文到底改了什么、怎么迭代
这五篇的「自我改进」其实是五种不同的东西——改 harness 源码(RRSI)、改 harness 的持久状态(Prime Agent)、改 探索策略代码(Dream-RSI)、把 harness 配置做成可组合/可演化的一等对象并接上模型共演化(HarnessX)、以及 测量"模型能不能自己造并改 harness"这件事本身(HarnessDev)。看…
PAPER READING NOTES
把一篇论文读成自己的东西:核心结论、方法拆解、关键数字与横向对比。
这五篇的「自我改进」其实是五种不同的东西——改 harness 源码(RRSI)、改 harness 的持久状态(Prime Agent)、改 探索策略代码(Dream-RSI)、把 harness 配置做成可组合/可演化的一等对象并接上模型共演化(HarnessX)、以及 测量"模型能不能自己造并改 harness"这件事本身(HarnessDev)。看…
HarnessX: A Composable, Adaptive, and Evolvable Agent Harness Foundry
HarnessX 把 harness 本身做成一等公民:用类型化 processor 挂在 8 个生命周期 hook 上做组合,用「RL 镜像」把 harness 演化当符号空间的 MDP 来防守三类 RL 病理,再用一个共享 replay buffer 让 harness 演化与模型 GRPO 训练共演化——五基准 15 格平均 +14.5%(峰值口径)…
这篇论文不提出新模型或新训练方法,它交付的是一个 harness——以及一套把「harness 能力」当作可测量对象的方法。 它的核心主张是:长时程任务的评测里,harness 是模型观察和作用于世界的「膜」(membrane),模型应当因任务超出能力而失败,而不是因为 harness 丢状态、限制动作、算错资源或提前终止(§1 原话);因此好 harne…
这篇把评测对象从「模型在给定 harness 里答题的成绩」换成「模型能否从零造出并且持续改进 harness 这个可运行系统本身」——结论是:2026-09 的前沿模型能从弱种子造出跑得起来的 harness,但在 code 与 search 上仍大幅落后人类工程版;演化(Evolution)阶段能在可见反馈集上涨分,涨分却不稳定,且向留出任务、向「换一…
这篇论文把"自我改进"从"改模型/改候选"挪到了"改怎么搜"这一层——并且发现,只要把一次真实的、代价高昂的发现过程完整记录下来(决策树 + 每个节点的执行结果),这棵历史树本身就是一个零成本的世界模型(replay simulator),可以让大量候选探索策略在"做梦"中先比一遍,再把赢家部署回线上。
这篇论文把"用 agent 自己跑出来的反馈反复改 harness"这套 RSI 循环的失败模式诊断清楚了——不是搜得不够,而是搜的东西(有限 evolve set 被反复自适应复用)会过拟合——然后用四项来自经典正则化的约束去限制搜索轨迹(而非限制编辑空间),在 8 个 benchmark / 3 个领域上换来"evolve 集涨得最少、但留出集涨得最多…
这不是一篇提出新方法的工作,而是一篇给"RSI / 自进化"建立坐标系的导读——它先把 RSI 收成一个闭环(下一轮 Agent A{t+1} 由本轮 Agent A_t、轨迹 τ_t、反馈 f_t 经更新算子 U 得到),再用四组主维度(进化什么 / 新版本如何产生 / 谁来更新 / 何时更新)加五组次级维度(验收标准 / 反馈来源 / 反馈类型 / 更…
这篇报告的主题不是「模型更强」,而是把长上下文推理的成本从「算」转移到「省」——用 CED 砍掉近一半 prefill 计算,用 CSA2 的跨层 KV/索引复用把 decoder 的 KV 生产层压到 1 层,再用 FP4 主 KV 缓存把每个字节再砍一半;部署侧用近似的 SWA Bounded Replay 换掉 SSD 上的 SWA 持久缓存。代价是…
K2.5 = Kimi K2(1T MoE 语言底座)+ 原生多模态(MoonViT-3D 视觉编码器,约 15T 图文混合 token 联合预训练)+ Agent Swarm(用 PARL 训练并行多智能体编排)。论文的两个主张是「文本与视觉联合优化让两个模态互相增强」和「并行 agent 编排把任务复杂度从线性串行变为并行处理」。
ZeRO 在数据并行(DP)框架内把「模型状态」从每卡复制一份改为按 DP 度数切分、用时再通信聚合,从而在不牺牲计算/通信效率的前提下拿到接近模型并行(MP)的内存效率。
没有匹配的笔记
换一个关键词,或清除筛选后再试。