china520 发表于 2006-5-21 21:27

[原创]一点困惑,诸位务必不吝赐教!

<P>如下:<BR>&gt;&gt; b='1/1048576*(4234823595251109*3^(1/2)+5646431460334812*pi)^(1/2)'<BR><BR>b =</P>
<P>1/1048576*(4234823595251109*3^(1/2)+5646431460334812*pi)^(1/2)</P>
<P>&gt;&gt; vpa(b,3)<BR> <BR>ans =<BR> <BR>151.<BR> <BR> <BR>&gt;&gt; vpa(b,2)<BR> <BR>ans =<BR> <BR>.14e3<BR><BR>按我的理解,函数vpa(S,D)应该是<FONT color=#df3131><U><STRONG>先算出S,然后按D取四舍五入</STRONG></U><FONT color=#000000>。</FONT></FONT><FONT color=#000000>(如:vpa(1.333+1.333,2)=2.7)</FONT>,但这里结果为什么出现这么大的差异?似乎vpa(b,2)=150才是正确的吧?另:b精确值约为151.0113。<BR><BR></P>请诸位务必不吝赐教,谢谢!

china520 发表于 2006-5-22 11:21

问题已经解决,是本人对vpa函数运行机理理解不清楚,thank you!
页: [1]
查看完整版本: [原创]一点困惑,诸位务必不吝赐教!