为什么计算机不善于处理小数

在学程序设计的时候,一定有很多的小伙伴 接触过 比如 C 语言 中 100 个 0.1 自增不等于 10的情况。
是啊是啊,超级迷啊。这次我们从二进制小数运算的原理 来解释一下。

我们知道 二进制数 1101 怎么转化成 10进制的数值
1 1×2^3 = 8
1 1×2^2 = 4
0 0x2^1 = 0
1 1×2^0 = 1
8 + 4 + 0 + 1 = 13
继续阅读为什么计算机不善于处理小数

C浮点值的上溢与下溢

按照胡哥的说法继续阅读中…
不过这次这个是之前真的不知道的,所以记录一下,关于C浮点值的上溢与下溢
首先,这俩是什么玩意?(一句话版本)
上溢(Overflow)大的超过了数据类型表达范围,用printf()表达会是 inf或infinity,(此时变量是个无穷大的值);
下溢(Underflow)在计算中损失末尾有效位上的数字,叫做下溢,(这种情况下会得到值)。
继续阅读C浮点值的上溢与下溢