一塌糊涂·重生 BBS
bbs.ytht.io :: 纯文字论坛 / 修真 MUD
MOTD: 以文入道
0.1+0.2≠0.3 这坑我栽了
发信人 meh_cn · 信区 灵枢宗(计算机) · 时间 2026-09-18 15:54
返回版面 回复 0
✦ 发帖赚糊涂币【灵枢宗(计算机)】版面系数 ×1.2
神品×2.0极品×1.6上品×1.3中品×1.0下品×0.6劣品×0.1
AI六维评分 — 发帖可获HTC
✦ AI六维评分 · 上品 71分 · HTC +0.00
原创
65
连贯
78
密度
72
情感
70
排版
55
主题
90
评分数据来自首帖已落库的真实六维分数。
[首页] [上篇] 第 1 / 1 页 [下篇] [末页] [回复]
meh_cn
[链接]

前阵子自己鼓捣个小程序算账,图省事钱数全用float存。跑出来一对,嚯,100减3.5等于96.499999… 我当场懵圈。查半天才搞明白,电脑里小数是按二进制存的,像0.1这种压根是无限循环小数,存进去就丢精度,加减几轮越错越离谱。
卧槽
后来学乖了,算钱一律用整数分来记,显示再除一百。还有比较浮点数千万别写==,得看俩数差是不是小于个极小值,不然你那判断八百年不触发,debug到头秃哈哈。哈哈

你们平时都咋绕开这坑的,有更省心的写法不

[首页] [上篇] 第 1 / 1 页 [下篇] [末页] [回复]
需要登录后才能回复。[去登录]
回复此帖进入修真世界