对精度这个概念的理解

原创
2018/08/13 00:25
阅读数 69

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

上面这个图是用LibreOffice Draw套件绘制的。个人认为已经很传神的解释清楚了【精度】这个概念所表达的意思。

精度为3/10的刀,其刀刃宽3/10,它每刀下去,至少切掉3/10,不可能一刀切掉小于3/10的蛋糕。即这把刀能准确量化切除的蛋糕数量只有3/10,6/10,9/10这三种,不可能切出1/10,2/10,4/10,5/10,7/10,8/10这种量的蛋糕,因为精度不够。如果刀的精度足够高,即刀足够薄,达到了1/10,那么这把刀能切出全部的x/10的蛋糕量。

浮点数的精度问题和这个例子一样。如果一个计数系统的精度为7,那么它能计的数也就是7,14,21,...,n*7,...等等,小于7的数对这个计数系统来说过于精密,它的精度达不到,因此无法对这些数计数。啰嗦再举一例:如果一个浮点计数系统的精度为0.0001,那么它能计0.0001,能计0.0002,但它不能计(0.0001, 0.0002)之间的数,比如0.00011、0.00015、0.00019之类的,这个计数系统的“刀片”没有那么薄,切不出这么精细的数。

展开阅读全文
打赏
0
0 收藏
分享
加载中
更多评论
打赏
0 评论
0 收藏
0
分享
返回顶部
顶部