1.3 高精度算术与误差补偿


文档摘要

1.3 高精度算术与误差补偿 本节摘要:当改写公式仍不能满足精度要求时,有两类补救手段:一是算法层的不动用额外精度的补偿技术(Kahan 补偿求和),二是数据层的扩展精度(long double、math.fsum、mpmath 任意精度)。本节实现并实测这些方法,给出各自的开销与适用边界。 一、结案工具箱的分层 1.2 节的结论是"先改公式、再改顺序"。 会员。《1.3 高精度算术与误差补偿》收录于灏天文库文集《计算数学》,原作者/来源:灏天文库,整理自「灏天文库」,提供技术教程、实践指南与问题解决方案,支持在线阅读、全文检索与知识沉淀,助力开发者系统化学习。本站整理收录,版权归原作者/开源协议所有。

该文档为会员专享,请先登录或注册后再查看


作者与出处
原作者: 灏天文库
来源:灏天文库
整理: 灏天文库整理
由灏天文库平台收录,内容或由平台用户上传,仅供学习交流
发布者: 作者: 灏天文库 转发
评论区 (0)
U