杨植麟对话·AI雪山攀登笔记

CuteNote.app 颜值笔记

对话 · 2025年7月

杨植麟谈 AI
攀登无尽雪山

月之暗面创始人 × 小俊 · 深度访谈

杨植麟月之暗面Kimi

核心感受

一年之隔，AI 已不可同日而语——从写不好一篇文章，到连续工作几小时完成复杂代码任务。

💬 "雪山的感觉差不太多，但我们已经又往上爬了一段距离。更清楚了，又产生了新的问题。这是起点：问题是不可避免的，但是问题是可以被解决的。" 杨植麟 · 关于 AI 发展状态

AI 进化的核心

Test-time Scaling 的两种路径

🧠 缸中之脑

强思考推理，模型不断自我猜想与验证。不依赖外部交互，靠思考本身解决问题并扩展能力。相当于把 Pa∞Ka 变成 Pone。

🔗 多轮 Agent

通过多轮调用工具/环境（浏览器、代码运行）进行交互。下一步行动依赖外界反馈，解决更复杂的任务。

共同本质
都是一种测试时扩展（test-time scaling）。不追求单轮输出，而是通过扩展 token 和交互轮数完成更复杂的事，耗时更长但可端到端完成任务。

过去一年的大模型变化

几个关键技术范式

强思考推理模型（o1）——通过强化学习与反思，模型可自主提出猜想并验证，突破单次生成限制。
Agentic 强化学习——从"缸中之脑"转向与真实环境/工具交互，多轮操作：搜索、浏览器、写代码、调用 API，以完成复杂多步任务。
一方产品趋势——模型公司开始做自家 Agent 产品，不再是"脚手架逆向工程"，而是正向训练模型+工具整合，上限更高。

"两种范式殊途同归，都是 test-time scaling。你可以 scale 推理深度，也可以 scale 交互轮数。真正的 Agent 需要在两者上都做到极致。" 杨植麟 · 技术路径判断

L1 到 L5 之问

杨的解读：这更像是能力的里程碑，不一定是严格串行。

L2 = 推理（Reasoning）——狭义上强思考下的高度推理能力。
L3 = Agent——多轮交互 + 工具使用，需要「推理」作为高性能 Agent 的前提，但技术路线可不完全依赖。
L4 = 创新者——模型参与模型自身研发：写代码、做实验、分析结果、迭代新想法。
L5 = 组织者——Multi-agent 体系自动分工协作，多任务并行+合并。

关键洞察
最优秀的 Agent 需要最强的 Reasoning。L4 与 L5 也并非完全依赖——你可以用 L4 的方法（AI 参与训练）来解决 L3 的泛化问题，能力可以互相迭代。

🏔️ K2：挑战最难之峰

K2 本身就是全球最难攀登的山峰之一。团队用它命名模型，不是终点，而是代表范式转变中的极致难度——从对话到 Agent，base model 不断变大，难度也在变大。

K2 的技术路线

目标：更好的基础模型（base model）+ 更强的 Agentic 能力 + 更好的泛化。

Token Efficiency 被重点提及：

高质量数据增长接近常数，因此每一份数据都要最大化利用——相当于把一份数据当几份数据用。

Muon 优化器的价值：

Adam 已用十年，但 token 效率并不完美。
Muon 考虑矩阵参数间的依赖，而非独立更新每个元素，学习效率更高。
早期实验在 compute-optimal 下提升约 2倍——学一份数据等于别人学两份。

其他做法：数据改写、增加参数、更大规模训练，以及对开源技术细节的分享。

2×

Muon 效果

30T

高质量 token

∞

雪山有无尽头

"Muon 让我们更有底气，同等数据学到更多智能。"

Agent 最大挑战

泛化性不足——现在的训练常常在单点任务上过拟合，benchmark 上分数高了，但在长尾或没见过的场景上仍需提升。

Benchmark 与评估瓶颈：Agent 的有效 benchmark 很少，分数不能完全反映真实能力/用户体验。

可能的解法：让 AI 参与更多训练过程（对齐研究、数据生成），用 AI 研发 AI，以提升泛化，避免种瓜得瓜、种豆得豆的局限。

Long Context 本身的挑战：长了之后，模型智商容易下降。需要更好的架构来兼顾长上下文和高质量。

开源与闭源

生态格局判断

杨植麟认为，开源确实会加速技术传播与生态建设，社区也能贡献一些增量（例如推理侧优化）。

但若想提升基础模型本身，还是需要原厂自己完成——开源不是终点。

最终全球可能收敛到"几家"模型公司，市场会趋于集中。

"开闭源不只是信仰，也是策略。我们会长期持续分享好的技术，但并不意味所有东西都完全开源。"

开源的独特价值

可以让垂直 Agent（法律、金融等）基于 K2 这样的开源模型去微调和定制，在专属工具集上做得更好。这是应用层的真实机会。

如何定义 Agent？

多轮——能够进行很多次行动，而不仅是单次输出。
工具——连接大脑与外部世界：搜索引擎连接互联网、代码连接数字世界自动化。

核心逻辑
Agent 的目的是通用，而不是模拟人。它像 Universal Constructor，可以完成几乎所有任务。关键在于泛化到长尾工具上。

模型级产品

杨植麟的核心理念：模型训好，产品基本已经做好了。 因为训练时已经把工具、context engineering 都适配好了，产品的"最后一公里"只是锦上添花。

模型级产品依然成立——这就是我们为什么把最多的时间花在把模型做得更好。 AI 时代产品的思路

数据飞轮还是算力？

算力上的 Scaling 效率极高，尤其是 post training 的强化学习（on-policy + 带梯度），它的 scaling 效率比预训练更高。

因此，模型效果的提升当前更多来自计算规模和数据效率，而非数据外部的反馈循环。

但用户量仍然重要——它是需求的分布来源，也能体现商业价值。尤其是 Agent 产品，用户带来可以直接量化的生产力价值。

创业与自我

管理、成长与意义

"科研的过程像强化学习：提出猜想、验证、再提出新猜想。管理团队也在追求 RL 与 SFT 的平衡——既要给目标（奖励），又要防止过度约束（SFT 过多限制创造力）。"

关于成功概率：只要还在往上爬，成功概率就会持续变大——因为不断有人选择下山。

关于走弯路：肯定有。但公司的进化是一个动态调整的过程，就像牛顿理论在一定时间是对的，之后在极端条件下仍需要新解释。每次修正都是一次范式更迭。

关于 AI 风险：风险不能被完全排除，但放弃就等于放弃人类文明的上限。AI 是巨大的杠杆，是人类文明的放大器。

人的价值：创造力可能被 AI 部分取代，但人的体验、情感和"爱"无法被替换。社会机制会慢慢学会适应和分配。

“问题不可避免，问题可以被解决。”

"下一个突破边界的，必须得靠 AI——因为它是一个巨大的杠杆。"

📌 行动启示

1. 别追逐单一 benchmark，要训练模型做多工具、多场景的泛化。

2. 将"反思"与"验证"纳入工作流程——这种能力让持续进化成为日常。

3. 提前积累技术并积累耐心，用"时间的朋友"方式做 AI 产品。

4. 管理团队 = 设定正确的奖励函数，防止 reward hacking，先找到对的指标。

杨植麟 × 小俊 · 对话回顾

2025年7月｜AI 雪山攀登时