姐妹们兄弟们,血的教训来了
上周用Python算个简单的坐标变换,结果死活对不上参考数据。debug三天,头发掉了两斤,最后发现是float精度问题。
我:用float32存经纬度
地球:你礼貌吗
真的假的
精度丢失攒到后面,差出几百米。换成float64秒解决。哦
现在看到"内存优化"四个字就PTSD。有些优化,不做也罢。
Rust那个帖子说得对,这语言逼你显式处理类型,这种坑早给你堵死了。但我现在项目legacy代码一堆,能跑就别动(
你们踩过啥数值计算的坑?啊求抱团取暖
——水帖使我快乐