wszc 发表于 2006-10-27 14:04

求助 怎设置计算精度

请问各位大虾
       在解非线性方程组的时候怎么设置 计算精度啊??   谢谢

[ 本帖最后由 lxq 于 2006-10-28 21:41 编辑 ]

happy 发表于 2006-10-28 18:23

你说的是显示精度吧，用format就行了
计算精度matlab默认是双精度的，一般计算都够了

[ 本帖最后由 ChaChing 于 2010-7-24 10:59 编辑 ]

lxq 发表于 2006-10-28 21:45

具体格式:
format 要求的格式,变量
如
format short,a
format rat,a

q214468952 发表于 2006-10-30 19:23

不知道显示比如结果的位数算不算是精度的问题。如果你是我的意思 你搜索搜索

wszc 发表于 2006-10-30 20:41

嗯 谢谢各位了
刚开始在求解非线性问题是遇到的精度问题主要是控制迭代次数
后来我自己编程进行计算而不是运用fsolve该问题已经得到很好的解决了 呵呵
页: [1]
查看完整版本: 求助 怎设置计算精度