1) round-off error
化整误差;舍入误差
2) rounding error
化整误差，取整误差，舍零误差，舍入误差
3) rounding error
舍入误差
1.
To analyze the rounding error of calculator floating-point numbers arithmetic operation is the foundation of numerical calculation method’s error analysis.
对计算机浮点数算术运算的舍入误差进行分析,是对数值计算方法作误差分析的基础。
2.
In this paper we analyze the course of rounding error accumulation in the LU decomposition,and create a model,between the loss accuracy of the result and the scale of matrix,to predict the accuracy of large scale LU decompositions.
本文首先分析LU分解中舍入误差的积累过程,建立精度损失与矩阵规模的关系模型来预测大规模LU分解的精度;然后,根据定点加法的简单、快速、无精度损失的特点,设计高精度乘累加器(HPMAcc),并基于此实现一个细粒度并行LU分解加速器。
4) Roundoff error
舍入误差
1.
In this dissertation, we mainly study numerical properties/algorithms and roundoff error estimates related to least squares problems, as mentioned in the following sections:1.
本文,我们主要研究与最小二乘问题相关的数值算法和舍入误差估计。
6) round off error
舍入误差
1.
In this paper we analyze the difference between the optimal continuous power vector and the optimal discrete one employing the method of round off error analysis in digital compu.
用定点计算舍入误差分析方法,量化功率离散对功率分配最优解的影响,提出两种改进型离散功率控制方法,仿真结果表明提出的改进型算法能很好地抑制自振荡。
补充资料：舍入误差
分子式：
CAS号：
性质：对位数较多的数，为计算方便或受到计算工具的限制，用位数较少的数来代替，或由于对数字进行修约而引入的误差。
CAS号：
性质：对位数较多的数，为计算方便或受到计算工具的限制，用位数较少的数来代替，或由于对数字进行修约而引入的误差。
说明：补充资料仅用于学习参考，请勿用于其它任何用途。
参考词条