舍入至最近的小数或整数 您所在的位置:网站首页 rounddown与round区别 舍入至最近的小数或整数

舍入至最近的小数或整数

2023-12-18 00:43| 来源: 网络整理| 查看: 265

打开实时脚本

format 命令控制 MATLAB® 如何在命令行上显示数字。如果一个数组具有以当前格式无法显示的额外位数,则 MATLAB 会自动对该数值进行四舍五入以便显示。与 round 函数结合使用时,此显示可能会导致意外结果。

考虑以下减法运算的结果,将显示 5 位数。

format short x = 112.05 - 110x = 2.0500

显示的结果是 2.0500,看起来像结值。然而,由于浮点算术错误,在 0.5 的小数部分的结值不在舍入误差内。

基于 x 的显示值,将 x 四舍五入为 1 位小数应返回 2.1。

y = round(x,1)y = 2

实际上,此处的问题是 MATLAB 将 x 四舍五入为 5 位数进行显示。round 函数返回正确答案。通过使用 format long 查看 x(这会显示舍入为 15 位数的 x)来确认答案。

format long xx = 2.049999999999997

为了进行比较,显示在舍入误差内的结值和不在舍入误差内的结值的舍入结果。

x1 = 2.05x1 = 2.050000000000000 y1 = round(x1,1)y1 = 2.100000000000000 x2 = 2.05 - eps(2.05)x2 = 2.049999999999999 y2 = round(x2,1)y2 = 2


【本文地址】

公司简介

联系我们

今日新闻

    推荐新闻

    专题文章
      CopyRight 2018-2019 实验室设备网 版权所有