numbers计算错误
例如89.1-86.5=2.599999999999……。182.1-181=1.0999999990……就是计算十位数是8小数点后面是1的数减去小于被减数10的任意数所得的结果是无限循环小数。这样的结果正常吗?
2021-04-12 | 已解决 | 提问者:栗子 · 江苏省苏州市 电信
最佳答案
-
宋二白
计算机在计算小数的时候,不可能对所有小数精确计数,因为是使用二进制标识小数,这与我们人类大脑的记忆方式不一样,在网上找到了一篇有关的介绍文章(http://www.cnblogs.com/swiftma/p/5411413.html)可以参考无论是在Numbers里还是Excel里,计算都是一样的,在Numbers中单元格默认的精确位数为“自动”,在我的机器上它是15位,而在Excel中的计算会默认小数位数定义为2,看上去计算就是精确的了,但是其实和Numbers的计算结果相同-计算机内部的表示方法,二进制的数值。比如下面有人举例的4.94-4.06,无论哪个软件如果都是小数精确位数是15位,那幺结果都是0.880000000000001,最后的1就是计算机内部表达小数不精确造成的。这种不精确,在日常生活工作中不会有影响,因为我们一般只用最多几位小数,默认的计算精度足够应付。在显示的时候,只要把小数位数定义到你所需要的就可以显示正常。2021-04-12
全部回复共2条
-
佳人
被减数大于80且十位上的数是8小数部分必须是.1例如1684.1。减数和被减数之差必须小于10且十位上的数也是8,小数部分不限。这样用减法公式计算结果就成无限不循环小数。2021-04-12 -
归鹤清潇
4.94-4.06;4.65-4.31;8.04-7.96;7.15-6.76这些计算结果都有类似问题2021-04-12
想回答这个问题?请到创作者中心登录后回答: 去回答
热门帖子
- 得实ds7830开机出现高速灯和压缩灯闪 2026-09-08
- 美能达206打印有底灰用了大概5万多张 2026-09-16
- HP4615红色墨盒识别不到国产和原装都试了 2026-09-01
- 京瓷1635开始复印10几张全黑,后面有好了,什么问题 2026-09-19
- epsonl351打印复印全白,喷头和主板都换过 2026-09-03
- 兄弟7360纸经常卡定影里面出不来 2026-09-07
- 理光2014新机老是卡纸怎么解决 2026-09-04
- HPM227打印单面没问题打印双面卡纸 2026-09-11
- 联想LJ2200打印有底灰,换了一次粉盒,换完粉盒之后,半页纸没有字,怎么办? 2026-09-20
- 夏普350复印打印淡,新换恒久鼓芯 2026-09-20
- 手机送修前需要备份哪些数据? 2026-09-18
- 华为手机进水了还能保修吗? 2026-09-16
- 官方售后和授权服务商有什么区别? 2026-09-13
- 手机进水后第一时间应该做什么? 2026-09-17
- iPhone换屏官方大概多少钱? 2026-09-18
- 手机屏幕碎了但不影响使用,要马上修吗? 2026-09-15
- iPhone电池健康低于80%可以免费换电池吗? 2026-09-17
- OPPO、一加、realme共用售后网点是真的吗? 2026-09-13
- 戴尔笔记本怎么查询保修期还剩多久? 2026-09-18
- 手机维修用官方备件和第三方备件有什么区别? 2026-09-12