flyindast 发表于 2008-12-13 19:49

输出问题

本来实际的值应是0，但程序却得出0.07e-16，它确实很接近0，但并不得0，这就给结果造成很大误差，因为我用的是
sign（x）符号函数，所以能不能在程序输出时保留几位有效小数。希望大家指点，谢谢。

songzy41 发表于 2008-12-13 20:12

在计算中最小的数是eps= 2.2204e-016，比该数小的数都应认为是0。可以加一个条件语句:
if abs(x)<=eps
    x=0;
end

ch_j1985 发表于 2008-12-13 22:08

回复 楼主 flyindast 的帖子

doc format
doc digits
页: [1]
查看完整版本: 输出问题