yqchenlolo 发表于 2006-4-18 11:23

请问精度问题

matlab里计算的精度可以设置么？<BR>找了些资料没找到<BR>比如一个例子：<BR>a=10^(-15)-10^(-16)<BR>答案不是0<BR>但是<BR>a1=10^(15)+a;<BR>a2=10^(15)-a;<BR>结果<BR>a1-a2<BR>ans=<BR>0<BR>应该是由于a相对于a1,a2太小的缘故而被截去了<BR>有没有办法避免这种情况？

tz6091 发表于 2006-4-18 11:51

<P>可以用vpa()来看结果。<BR></P>

yqchenlolo 发表于 2006-4-18 16:11

你误解我的意思了<BR>我不是要看结果的<BR>

suffer 发表于 2006-4-19 09:00

回复：（yqchenlolo）请问精度问题

这个只是显示问题，实际计算中并没有舍去

yqchenlolo 发表于 2006-4-21 14:36

这个例子已经舍去了<BR>我运行 a1-a2==0<BR>运行结果为：１

happy 发表于 2006-4-22 21:28

回复：（yqchenlolo）请问精度问题

<P>这个没办法，只能在算法上作处理</P>
页: [1]
查看完整版本: 请问精度问题