我们能让大模型写出漂亮的文章，却始终说不清它脑子里到底在想什么——这个「黑箱」问题，困扰了 AI 安全研究很多年。本周五，OpenAI 可解释性团队的创建人 Nick Cammarata 发了一篇超长文章（读完要 65 分钟），直接把圈子震了：他说，神经网络根本不是纠缠的死结，借助现代智能体工具，连万亿参数的大模型都「几乎可读」，可解释性问题不仅会被解决，而且可能很快就会实现。

「猫和汽车」，可能从来就是一个东西

过去几年，可解释性研究建立在一个挺悲观的前提上：神经元数量不够用，模型就把毫不相干的概念硬塞进同一个神经元里（这叫 superposition，叠加假说）。想读懂模型，得先训练第二个模型（比如稀疏自编码器 SAE）把这团乱麻解开。

经典案例来自视觉模型 InceptionV1：同一个神经元既认猫脸，又认汽车前脸。Cammarata 重新检查了图片和连接关系后发现——猫脸和汽车前脸共享一个特征：V 形。这个神经元还对 V 形火焰、狐狸脸起反应，圆形则把它推向负向。换句话说，「猫」和「汽车」是人类发明的分类，网络找到的其实是跨越类别的形状规律。

他的提醒挺有意思：神经元未必像名词，负责给东西贴标签；它们更像动词，负责区分模式。我们眼里的混乱，有时候只是模型用了我们没想到的分类法。

90% 的神经元，只干一件事

数字对比很能说明问题。2023 年 OpenAI 的自动可解释性项目，用最宽松的标准也只找到约 1.7% 的可解释神经元。而这一次，团队对 Qwen3-32B 的初步审查显示：约 90% 的神经元正、负两个「极」各自只有一项主要工作，约 7% 有两项相关职能，真正看不懂的只有 2%—4%。在 Kimi K3 上，他们甚至做出了已知首个万亿参数模型的归因图——一道「捡到钱包怎么办」的题里，钱包、现金、证件一路连通到失物招领和诚实，最后输出「归还」。用新工具回头看当年的 GPT-2 XL，约 70% 的神经元也大致是「一回事」。稠密模型和 MoE 模型结论相近。

对于那些确实有多种用途的神经元，Cammarata 提出了「递归泛化」：神经元从一个模式出发，逐渐长出相关分支。一个认「iy」的神经元，扩展到「diy」，再扩展到完全不含「iy」的「do it yourself」——不是在高维空间里藏信息，而是在语义相邻的地盘上生长。

让 AI 科学家研究 AI 内部

这项工作的另一条主线是规模。智能体可以检查神经元样本、提出解释、追踪上下游连接，再设计实验找反例——研究者让智能体检查了十万张归因图，作者本人也看了数千张。

怎么防止 AI 编一个听起来合理的故事？办法是让解释变成可以证伪的假说：第一个智能体研究神经元写下解释，第二个只看解释去生成一个预计能强烈激活它的新样本，再交给网络实测。结果有些样本的激活强度，超过了他们从百亿 token 语料里找到的所有例子。

为什么值得关注

对普通用户来说，这件事的意义很直接：如果模型内部真的可以被读懂，未来的 AI 就有可能被「有意设计」——塑造行为方式、排查偏见、在出事故之前发现隐患，而不是像现在这样靠提示词和运气。Cammarata 自己也留了余地：注意力机制、完整模型审计、如何把理解转化为可靠的安全改进，都还有大量工作没做。这不是「可解释性已解决」的宣言，但方向值得认真检验。

更多 AI 工具与教程见 AI 智库。