1) truncating error
舍断误差
2) truncation error
舍位误差，舍项误差，截断误差，方法误差，公式误差
3) rounding error
舍入误差
1.
To analyze the rounding error of calculator floating-point numbers arithmetic operation is the foundation of numerical calculation method’s error analysis.
对计算机浮点数算术运算的舍入误差进行分析,是对数值计算方法作误差分析的基础。
2.
In this paper we analyze the course of rounding error accumulation in the LU decomposition,and create a model,between the loss accuracy of the result and the scale of matrix,to predict the accuracy of large scale LU decompositions.
本文首先分析LU分解中舍入误差的积累过程,建立精度损失与矩阵规模的关系模型来预测大规模LU分解的精度;然后,根据定点加法的简单、快速、无精度损失的特点,设计高精度乘累加器(HPMAcc),并基于此实现一个细粒度并行LU分解加速器。
4) Roundoff error
舍入误差
1.
In this dissertation, we mainly study numerical properties/algorithms and roundoff error estimates related to least squares problems, as mentioned in the following sections:1.
本文,我们主要研究与最小二乘问题相关的数值算法和舍入误差估计。
6) truncation error
舍项误差
补充资料：舍入误差
分子式：
CAS号：
性质：对位数较多的数，为计算方便或受到计算工具的限制，用位数较少的数来代替，或由于对数字进行修约而引入的误差。
CAS号：
性质：对位数较多的数，为计算方便或受到计算工具的限制，用位数较少的数来代替，或由于对数字进行修约而引入的误差。
说明：补充资料仅用于学习参考，请勿用于其它任何用途。
参考词条