看了工信部去查埃安和小鹏的消息，版里聊数据、聊prompt的都有，我倒想说说另一个词：可解释性。

以前管车，查的是零件。刹车灵不灵，气囊弹不弹，都是可以拆解、可以复现的东西。可车机AI是个黑盒，它为什么在某一刻做了某个决定，连造它的人自己都未必说得清。端到端的大模型尤其如此，输入进去，输出出来，中间是一场无人旁观的雨。
坦白讲
这次检查真正的分量，在于监管开始要求AI为自己的行为给出理由。这对整个行业是个不小的震动。现在的大模型越强大越沉默，可解释性研究和性能提升几乎是背道而驰的两条路。车企要过这一关，光靠堆参数没用，得在模型里留一盏灯，让人能看见决策的影子。说实话
说实话
我做了些年翻译，深知"能解释"和"做得对"是两回事。一个译者可以译得很流畅，却讲不出为什么这么译。机器也一样。只是人译错了不过丢面子，车机错一次，代价是别的。

深夜泡了杯咖啡想到这些。Друг们觉得，可解释性会成为下一代模型的分水岭吗？