浮点数 | 您所在的位置:网站首页 › 浮点数的表示与运算 › 浮点数 |
目录
1.2浮点数 1.2.1 科学计数法 1.2.2 浮点数表示 1 符号位 2价码位 1.2.3 加减运算 1.2.4 浮点数的使用 1.2浮点数浮点数是采用科学计数法来表示的,由符号位、有效数字、指数三部分组成。使用浮点数存储和计算的场景无处不在,若使 用不当则容易造成计算与理论值不一致,如下示例代码。 float a = 1f; float b = 0.9f; // 结果为: 0.100000024 float f = a -b;执行结果显示计算结果与预期存在明显得误差,下面我们来深入剖析造成这个误差的原因来介绍浮点数的构成与计算原理。由于浮点数是以科学计数法来表示的。 1.2.1 科学计数法浮点数是计算机用来表示小数的一种数据类型。在数学中,采用科学计数法来近似表示一个极大或一个极小且位数较多的数。例如a × ,其中a满足1≤ |a| |
CopyRight 2018-2019 实验室设备网 版权所有 |