节点文献
一种报表数据精度变化误差调整算法
An Algorithm for Adjusting Errors Resulted from Change of Data Precision in Reports
【摘要】 介绍了一种用于调整由报表数据的精度降低所产生的误差的算法。阐述了该算法的基本原理,并给出了算法的具体描述。实践证明,与传统的四舍五入方法相比,该算法可以降低报表中的行、列和整个报表的最大累计误差。
【Abstract】 This paper introduces an algorithm used to adjust errors resulted from change of data precision in reports. The principle and implementation of the algorithm are described. Practices have proven that the algorithm can reduce the maximum accumulative error of a row, a column and the whole report.
【关键词】 报表;
矩阵;
数据精度;
舍入误差;
算法;
【Key words】 Reports; Matrix; Data precision; Rounding error; Algorithm;
【Key words】 Reports; Matrix; Data precision; Rounding error; Algorithm;
- 【文献出处】 计算机工程 ,Computer Engineering , 编辑部邮箱 ,2001年04期
- 【分类号】TP301.6
- 【被引频次】4
- 【下载频次】27