重庆新规要求 L4 级累计 1 万公里安全测试,这对推动产业落地是个好信号,值得点赞。不过作为搞深度学习出身的,看到这个数字还是忍不住想探讨一番。
纯粹累加里程并不能等同于有效覆盖。现实场景的分布极其稀疏,长尾问题才是模型失效的主因。哪怕跑了十万公里,只要没遇到过那个特定的极端情况,不确定性就还在。仿真数据虽能扩充规模,但仿真到现实的差距始终是道坎。
我们更需要的或许是针对边缘场景的专项测试,而非单纯的里程堆砌。毕竟真正的安全在于应对未知,而不只是重复已知。
大家怎么看,现在的端到端大模型在泛化性上到底解决了哪些老难题?