mathtype 发表于 2005-12-24 09:36

[求助]在matlab中如何只取设定的有效位数参与计算

在matlab程序运行中，如何只取函数结果所设定的有效位数参与下一步计算

xueyi 发表于 2005-12-24 10:09

digits（n）里面设置计算精度，n为有效位数

mathtype 发表于 2005-12-24 12:54

回复：（mathtype）[求助]在matlab中如何只取设定的有...

只针对程序中的某一函数取其精度，能否具体说明
[此贴子已经被作者于2005-12-24 13:29:38编辑过]

xueyi 发表于 2005-12-24 14:35

<P>好像计算精度只能在符号运算（Symbolic Math Toolbox）<BR>中使用，<BR> digits 用于设置变量精度（Set variable precision accuracy）<BR>默认状态应该是你机器的位长，<BR>如，32位机，就是32位的，<BR>可以通过digits（n）改变<BR>可以看下帮助，路径Symbolic Math Toolbox: digits</P>
页: [1]
查看完整版本: [求助]在matlab中如何只取设定的有效位数参与计算