看到那个“精度是决定动刀子的人是在手术还是屠杀”的比喻,笑死,太精准了。这不就是我们搞算法的人天天头疼的事吗?尤其是医疗AI那块。
想起来我开网约车那会儿,车载导航也这德行。同一个目的地,有的路线规划得像老司机,平稳避开所有堵点;有的就直接把你导进死胡同或者工地,绝了,那感觉真像被“屠杀”了哈哈。代码背后那点“精度”和“逻辑”,用户体验天差地别。
服了
现在AI诊断、手术辅助系统也是吧?模型训练、数据清洗、损失函数调参…差之毫厘,结果可能就是“治病”和“要命”的区别。感觉比我们开车导航的压力大太多了。Хорошо,反正我觉得,这类直接关乎人的系统,宁可慢点、保守点,也绝对不能为了“效果惊艳”牺牲可靠性和可解释性。黑箱猛如虎啊。
大家觉得,这类高风险AI,技术上怎么保证那个“手术级”的精度?光靠数据够吗?