0. 背景

随着 26 年的开局,以 OpenClaw 的最短时间登顶 GITHUB 榜首,以及全世界(尤其是国内大厂)的不断追捧,开启了「万虾」大战,同时叠加国产模型的 Agent 能力的增强,似乎无所不能,装备各种工具的「赛博外挂」就要出现了,能文能武,上能拍人类马屁,让普通人也过一把皇帝的瘾;下能处理各种脏活累活,能解 BUG,粗剪视频等等。同时各路软件厂商也是纷纷表态,出来喊“SASS”已死,将各路GUI 软件打回娘胎,直接变回 CLI,双手递上,给困在 shell 里的 Agent 大人送上自家的工具链。

如此种种,上一次这种「生机勃勃,万物竞发」的境界,还是在上一次。虽然我作为 AI Infra 的行业里,对比动辄就全员被裁的前端老哥来说,私以为护城河稍微厚一点,兴许能扛到最后。但是唇亡齿寒的道理我还是懂的。那么作为程序员,就是天生自己革自己的命吗?兴许不然,对这个问题,我也观察了很久,有一些自己的拙见。

1. 各路工具/术语/模型从夯到拉进行评比

1.1 模型横评

经过我近几个月的大力度测试后,基础模型在我这里排名是:

夯 GPT 5.4 Xhigh;Claude Opus 4.6 GPT 属于埋头干活,适合修 bug 和 review;Cladue 属于说人话,适合做架构设计和初步代码快速搭建
顶级 GLM 5;Claude Sonnet 4.6 较低的价格,实现了类比最顶级模型的推理能力
NPC KIMI;MiniMax 价格低廉,适合低需求场合
拉完了 Haiku 系列模型;其他模型 没有使用的义务

2. 新的泛化 — Agents和Skills

  1. 之前的软件处理的泛化是:运行时的变量的泛化,比如用户输出的值的长度,天气的温度等等。这也是为什么那个经典笑话长久不衰:用户来到酒吧点了一份炒饭,酒吧就炸了。这其实存在一个 GAP:用户脑子里的电信号 → 用户输出的行为,比如语音/打字输入 → 程序员预先设想的数据/字符范围。这里的几次转换,其实是强迫用户进行细化,即在软件运行之前,其实就已经默认用户知道怎么用,怎么输入了。
  2. 现在的 Agent/Skills,是优化了哪一部分?Skills 其实是一种软性的约束,约束了模型输出时的分布,使得其具备「某种软件特质」,比如完成特定的 code-review,完成特定的机械任务等。那现在的流程变成:用户脑子里的电信号 → 用户用语音/打字输入 → LLM 翻译成合理的边界范围和指令/脚本 → 程序员预先设想的数据范围。可以看到,为啥大家会觉得「SaaS」已死了,因为这相当于给传统的界面又引入了一层包装,易用性又得到了增强,而以前的界面,如脚本/GUI 等,都让位给了新来的Agent 进行翻译操作。
  3. 但是这个泛化是万能的吗?显然不是,而且这里还有一定的博弈空间。我们都知道,这就像「测不准原理」,如果能支持模糊的输入,模糊的指令,那么输出结果显然是不够精确的;如果只是用自然语言支持了准确的指令,那么套一层 LLM 进行转译又显得多余且浪费算力。所以,我们需要一个新的表示系统,来表示执行任务的模糊程度,如果模糊程度不高,显然是 LLM 的甜点区。如果模糊程度过高,就说明 LLM 此时无法直接替代人类去给下层组件下指令,需要人类用户去逐步拆解,降低模糊程度,或者也可以说是降低熵值。而这一结论,与现有的许多实践结论可以对上:Agent 在前面狂飙突进地写代码,还是需要人类来 review 把关,否则输出的代码都不说上线,内部用都可以造成很大破坏,这也是过度信任 LLM 的泛化能力导致的。(类比雍和宫许愿,不降低模糊程度,鬼知道许的愿会得到什么结果)。
  4. 新的曙光?Skills 有用吗?为何 Skills 会一时间风头无两?因为解决了两个事情:1. 人类的懒惰性,直接做成 skills,封装起来反复复用解决经常遇到的小问题;2. 降低了泛化程度,比如总结 PR,做 code review,浏览网页等等,封装起来后,可以一键调用,变成了软件里面的按钮了。
  5. 但是我这里要说一下,skills 注定会被新的技术封装淘汰,第一,模型本身的泛化能力可能会被伤害,由于自然语言+脚本描述的 skills,相当于在发散的概率空间,给LLM 输出的概率分布做了约束,但是这里的约束是合理的吗?现在很多 skills,里面有很多个人的倾向,如果直接迁移新的硬件环境等,反而会破坏掉模型本身的发散/泛化能力。
  6. 新的接口? 我笃信,现在的 Agent 和 Skill,MCP 等,都不会是最终形态。面向用户的那层输入,应该是支持模糊的,泛化的;但是交给底层机器,无论是 CPU/GPU/FPGA 等,都必须是确定的,无二义的。

3. 中心极限定理 — 正态分布

  1. 模型的输出符合正态分布吗? — 需要推导
  2. CoT 是不是就是爬过概率山峰的可视化?还是隐式的梯度下降?
  3. 如何得到显著性结果?
  4. 高维空间里 token 的向量都是正交的