junstin 发表于 2006-12-12 10:17

matlab如何降低数值计算精度？

现在考虑用matlab模拟实验中的数据，要求matlab计算的的时候只用3位有效数字参与计算，因为实验器材得到的数据精度为有效数字三位，请问在matlab中如何实现？

xjzuo 发表于 2006-12-12 14:52

回复

这个问题也讨论过几次了，试试digits,vpa.
（不过好象内部计算精度是默认不变的）

[ 本帖最后由 xjzuo 于 2006-12-12 14:53 编辑 ]
页: [1]
查看完整版本: matlab如何降低数值计算精度？