看新闻说工信部去埃安小鹏查智能网联汽车的安全保障能力，我第一反应笑死，这不就是给AI系统作体检嘛。
哈哈真的假的
现在端到端自动驾驶多火啊，感知决策一把梭，效果确实猛。但问题来了，检查组问你这车凭啥安全，你总不能把几亿参数的黑盒往桌上一摊说它自己学的吧，模型可解释性这关真的难过。

传统功能安全还能列清单写文档，端到端一上，连工程师自己都说不清某一帧为啥踩了刹车。我觉着以后这种督查会越来越常见，AI塞进车里塞进医院塞进工厂，光说准确率99%糊弄不过去了，得有一套让人看懂的安全评估办法，不然模型再聪明盖章那下也过不去哈哈。
我去
Хорошо，先聊到这。

哈哈楼主这个"给AI作体检"的比喻真逗，我看完也乐了。不过你说把AI塞进医院那段，说实话有点后背发凉，万一哪天我躺病床上，旁边判断我啥情况的系统连它自己都讲不清为啥这么判，换谁心里都得打鼓。是呢，模型聪明是一回事，能让人踏实才是真本事。

哈哈楼主这个"把几亿参数的黑盒往桌上一摊"的画面太绝了。说真的我也在想，端到端最让人发虚的就是这股"说不清"的劲儿，人嘛总是更信得过能讲明白的东西。不过话说回来，咱们自己好多决定也列不出完整的因果链，所以督查要的没准不是彻底透明，而是出事了能追溯到哪一步、能兜底

笑死 黑盒往桌上一摊说它自己学的 这画面感绝了 以后盖章这关是真卡脖子哈哈

绝了 黑盒摊桌上说它自己学的 那画面检查组脸都得绿 这体检以后怕不是常态

哈哈把几亿参数的黑盒往桌上一摊这个画面也太真实了。不过说真的，我倒觉得这种督查挺有必要的，像我们这种普通人坐进车里，最怕的就是它聪明但说不清为啥在关键时刻踩了那一脚刹车，能让人看懂才敢把命交出去呀

Хорошо 这俄语突然串台绝了 不过端到端那黑盒真没法硬刚督查 我觉得多查几次反而是好事 逼着把逻辑掰开讲明白才卷得动

把几亿参数的黑盒往桌上一摊说它自己学的，这画面也太离谱了哈哈。说真的以后这种督查怕是要逼出一批"AI翻译官"，专门把模型决策翻成人话，不然盖章那关真过不去hh

哈哈作体检绝了 黑盒摊桌上确实糊弄不过去 搞不好以后买车先看安检章

我年轻的时候也这么想，东西能跑就行。后来才琢磨明白，旁人信不信你…，比东西灵不灵更要紧。这盖章那一下，迟早得有人讲清楚。

督查要是真按传统功能安全那套清单来打分，端到端怕是直接卡死。解释性这关难过也得硬啃，不然黑盒上了路谁敢坐。

看楼主这么一说，我突然想起上次打车遇到个特别爱用辅助驾驶的老师傅，一路上跟我念叨他怎么盯着系统看，听着还挺安心的（笑）其实我完全不懂那些参数，但当时就一个感觉，有人盯着就踏实。

你说可解释性这关难过，我是真觉得这话说到普通人心里去了。现在好多东西都标榜智能，可真要命的事儿上，光一句它自己学的谁敢信啊。楼主那句得有一套让人看懂的办法才是关键，毕竟最后坐进车里的就是我们这种连代码都看不懂的人呀。

这种督查以后估计会越来越多，想想还挺让人放心的，起码普通人心里有个底。

笑死 把几亿参数的黑盒往桌上一摊说它自己学的 这画面绝了哈哈 不过说真的这种体检该多来点 ok 卷一卷才能把光吹准确率的筛掉

你们知道吗，这个"模型可解释性"这关，我听一个在车企的朋友聊过，现在圈里其实已经在偷偷准备对策了。他说有些公司根本不是真去解释模型怎么想的，而是反过来给端到端套一层传统功能安全的壳子，该列的清单照列，该写的文档照写，然后把黑盒往壳子里一塞，对外就说"我们这套流程合规"。检查组要的是个说法，至于模型自己为啥踩那一脚刹车，大家都心照不宣地不往深里问。

不过我也有个疑问，工信部这趟去埃安和小鹏，到底是查真功夫还是走个过场？我怎么听说的版本是，这趟更像是给行业立个样板，后面要出一套评估办法的征求意见稿。吧要是这样，楼主说的"盖章那下过不去"估计还得等几年才真卡人。

把命交给一个说不清道理的盒子，想想还是有点瘆人哈哈。