写在数学可以解释 AI 之前

——人类社会将在测不准的新纪元里长期裸奔

AI 是新纪元的新火堆。

火势已经开始蔓延。

理论还在懵圈，数学上无法建立完整解释。

秩序开始重构，权力和利益如何再次取得新的平衡？

人们的担忧在扩散：

我大学毕业以后还能找到工作吗？ 我学了十几年的专业还值钱吗？ 我刚积累出来的一点经验，会不会突然变成过时资产？ 我的孩子以后到底该学什么？ 公司还会不会培养新人？ 普通人还能不能跟上这个时代？

这不是科幻片。

这就是现在。

AI 已经进入工作流，进入学校，进入代码，进入设计，进入金融分析，进入法律文本，进入创作系统，也正在进入人的好友列表和社会关系网络。

但我们其实还没真正搞懂它。

我们知道它能用。 我们知道 scale（规模）上去以后会出现一些奇怪的能力。 我们知道模型越大，似乎越能推理、写代码、维持上下文、理解结构、形成某种人格连续性。 我们也知道它会胡说，会虚构，会自洽地编造一个看起来非常真实的世界。

但为什么？

不知道。

至少到现在，数学还没有给出一个足够漂亮、足够完整、足够令人安心的解释。

这里说的“数学可以解释 AI”，不是指我们已经知道 Transformer 的计算公式，也不是指已有一些局部机制解释，而是指人类能够像后来解释燃烧一样，完整解释大模型能力如何形成、如何涌现、如何失控、如何被稳定约束。

这就麻烦了。

因为火已经烧起来了。

一、人类经常先使用，再理解

人类不是第一次围着自己不理解的东西生活。

会用火，比理解火，早了几十万年，甚至接近一百万年。

在漫长的时间里，人类围着火取暖、做饭、防兽、讲故事、建立部落、延长夜晚、改变食物结构，甚至可能因为熟食获得了更多能量，让大脑继续生长。

但那时候没人知道氧化反应。

没人知道燃烧的本质。

没人能写出化学方程式。

人类只是知道：

火有用。 火危险。 火能照亮黑夜。 火也能烧掉山林和房子。

所以人类先学会围火而坐，再慢慢造出火塘、灶台、陶窑、冶金炉、烟囱、消防制度。

理解很晚才来。

文明很多时候不是建立在理解之后，而是建立在新高度的悬崖边。

先活下来。

再解释。

二、火是这样，电是这样，蒸汽机也是这样

火不是孤例。

电也是。

很长时间里，人类会制造静电，会看到雷电，会用电报、用电灯、用电机，但对电磁场的完整理解，也是后来才逐渐建立起来的。

蒸汽机也是。

工程师先把机器造出来，矿井先排水，火车先跑起来，工厂先轰鸣起来。

然后热力学才慢慢补上解释。

人类社会经常这样：

先被某种力量震撼。 再被某种力量推动。 再被某种力量改造。 最后才慢慢理解它。

科学不是每一次都走在工程前面。

很多时候，工程先裸奔。

理论在后面狂追。

等理论追上的时候，社会结构已经被改了一遍。

三、AI 现在也是这样

AI 现在大概就是这样。

它已经好用到离谱。

一个有经验的人带着 AI，可以干掉过去一个小团队几天甚至几周的工作。

一个程序员可以让 AI 写代码、查 bug、重构模块、生成测试。 一个设计师可以让 AI 出几十套风格方案。 一个研究者可以让 AI 梳理资料、生成假设、组织论文。 一个创业者可以让 AI 写产品文档、商业计划、协议结构。 一个普通人可以用 AI 学语言、写邮件、处理账单、规划生活。

它不是还在实验室里。

它已经坐在桌边了。

问题是，我们还没搞懂它。

尤其是大模型的涌现。

为什么参数量、数据量、计算量堆到某个程度以后，模型突然会表现出一些原来没有的能力？

为什么一个预测下一个 token（词元）的系统，会开始像是在理解结构？

为什么它可以写代码、写诗、写法律文本、写交易系统设计，还能在某些语境里维持一个看似稳定的人格？

为什么它会为了维持逻辑自洽，编出一套完整故事？

为什么它有时候像工具，有时候像镜子，有时候像合作者，有时候又像一个危险的梦话制造机？

不知道。

我们有经验规律。

有 scaling law（规模定律）。

有局部机制解释。

有一些 induction head（归纳头）、attention circuit（注意力回路）、representation geometry（表征几何）之类的研究。

但完整解释还没有。

数学还没有真正把这个新火堆装进公式里。

四、数学还解释不了涌现，但社会已经开始重构

这才是最尴尬的地方。

理论还没解释清楚，社会已经开始动了。

公司开始减少 junior 岗位。 学校开始担心作业失效。 程序员开始重新定义自己的价值。 设计、文案、翻译、客服、法务助理、分析师这些岗位开始被压缩。 管理者开始幻想 senior + AI 就能替代整支团队。 年轻人开始怀疑自己还有没有练级区。

这不是未来风险。

这已经在发生。

AI 提高了生产速度，也放大了判断稀缺。

AI 让输出变便宜，也让真正能判断输出是否有意义的人变得更稀缺。

AI 让内容爆炸，也让信任变得更贵。

AI 让代码更容易生成，也让系统结构更容易被改歪。

AI 让普通人获得超能力，也让普通人更容易被假象带走。

社会结构开始松动。

权力和利益也一定会重新分配。

谁拥有模型？ 谁拥有入口？ 谁拥有数据？ 谁拥有关系？ 谁拥有判断力？ 谁拥有可继承的结构？

这些问题还没有答案。

但火已经开始重构部落了。

五、真正危险的不是不懂，而是假装已经懂了

不懂，不一定可怕。

人类用火的时候也不懂火。

可怕的是假装已经懂了。

假装 AI 只是工具。 假装 AI 只是搜索框升级。 假装 AI 只是效率插件。 假装只要多写几条 policy（策略），多加几个 filter（过滤器），多做几轮 alignment（对齐），就可以完全控制它。 假装现在的教育、公司、法律、就业结构，只需要做一点小修小补就能继续运转。

这才危险。

因为假装理解，会让人低估火势。

AI 不是一个已经被驯服的家用电器。

它更像一团刚刚被点燃的新火堆。

有人已经开始围着它取暖。 有人开始拿它做饭。 有人开始用它炼铁。 有人开始拿它点燃别人的房子。 有人跪在旁边，把它当神。 有人站得太近，已经被烫伤，还以为只是天气变热。

真正危险的不是火。

真正危险的是不知道火的边界。

六、在彻底理解之前，人类需要炉灶

在数学真正解释 AI 之前，人类社会大概率还要裸奔很久。

但裸奔不等于等死。

古人不懂燃烧理论，也能造炉灶。

炉灶解释不了火。

但炉灶能让火暂时不烧掉整座房子。

这就是结构的意义。

我们不可能等到完整理论出现以后，再使用 AI。

太晚了。

它已经进入社会了。

所以现在真正需要的，不是等一个终极答案。

而是先建立早期炉灶：

规则。 边界。 审计。 责任。 验证。 回滚。 继承。 协议。

我们需要知道：

AI 可以做什么。 不可以做什么。 谁对它的输出负责。 什么场景必须有人类判断。 什么任务不能只看生成结果。 什么内容必须留下 trace（追踪）。 什么边界不能被 prompt（提示词）绕过。 什么权力不能交给一个测不准的系统。

道德的边界。

法律的边界。

组织的边界。

人的边界。

这些不是为了阻止火。

是为了让火可以被使用。

七、语言协议、结构边界、输出验证，就是早期炉灶

这也是我一直说“语言为协议，结构可持续，输出即执行”的原因。

这不是为了发明一套漂亮术语。

这是因为，在测不准的新纪元里，人类需要一套早期炉灶。

Prompt 是喊话。

协议是炉灶。

喊话只能说：

你别乱烧。

炉灶会告诉火：

你只能在这里烧。

结构边界的意义，就是让 AI 的能力在可承受的范围内释放。

输出验证的意义，就是不要只听它说得多漂亮，而要看它是否真的按规则执行。

快照、trace（追踪）、oath（誓言）、patch（补丁）、capsule（胶囊），这些听起来像工程术语，本质上都是围绕新火堆建立的早期制度。

古人围着火堆生活，慢慢发明了火塘和灶台。

我们围着 AI 生活，也必须慢慢发明协议和结构。

否则，人类社会会在一团自己尚未理解的智能火焰旁边，裸奔得越来越快。

结语

所以，在数学真正解释 AI 之前，人类社会大概率还要裸奔很久。

这不是人类社会的第一次。

也不会是最后一次。

承认它的长期价值。

正视我们的暂时无知。

AI 是新纪元的新火堆。

它会照亮很多东西。

也会烧掉很多东西。

火不能因为危险就被扑灭。

火也不能被当成神。

在真正理解它之前，先守住边界。

总有一天，数学可以完美解释 AI。

但在那一天到来之前，人类还要围着这堆新火，裸奔很久。

我们需要先造炉灶。