节点文献

计算机浮点数算术运算的舍入误差研究

Rounding error study of calculator floating-point numbers arithmetic operation

  • 推荐 CAJ下载
  • PDF下载
  • 不支持迅雷等下载工具,请取消加速工具后下载。

【作者】 范啸涛季光明何永斌

【Author】 FAN Xiao-tao~1, JI Guang-ming~1, HE Yong-bin~2(1.College of Information Management, Chengdu University of Technology, Chengdu 610059, China; 2.College of Computer Science and Engineering, Wenzhou University, Wenzhou 325035, China)

【机构】 成都理工大学信息管理学院温州大学(筹)计算机科学与工程学院 成都610059成都610059温州325035

【摘要】 对计算机浮点数算术运算的舍入误差进行分析,是对数值计算方法作误差分析的基础。论文全面研究了计算机浮点数算术运算的舍入误差的基本理论,对有关结论均作了严格的论证。并举例说明由算术运算的误差界,可建立较复杂运算的误差界。还研究了向前误差分析和向后误差分析的要点。推广上述结果,对矩阵基本运算的舍入误差进行了估计。

【Abstract】 To analyze the rounding error of calculator floating-point numbers arithmetic operation is the foundation of numerical calculation method’s error analysis. This paper studies roundly the basic theories of rounding error of calculator floating-point numbers arithmetic operation and demonstrates the related conclusions. It also illustrates with examples that the error margin calculated by arithmetic operation can establish more complicated calculation error margin.This paper still studies the mains of the forward error analysis and backward error analysis. By generalizing the above results, the paper estimates the rounding error of matrix basic calculation.

  • 【文献出处】 成都理工大学学报(自然科学版) ,Journal of Chengdu University of Technology(Science & Technology Edition) , 编辑部邮箱 ,2005年02期
  • 【分类号】O242.2
  • 【被引频次】19
  • 【下载频次】616
节点文献中: 

本文链接的文献网络图示:

本文的引文网络