求助怎设置计算精度

wszc · 发表于 2006-10-27 14:04

您需要登录才可以下载或查看，没有账号？我要加入

x

请问各位大虾
在解非线性方程组的时候怎么设置计算精度啊?? 谢谢

[ 本帖最后由 lxq 于 2006-10-28 21:41 编辑 ]

happy · 发表于 2006-10-28 18:23

你说的是显示精度吧，用format就行了
计算精度matlab默认是双精度的，一般计算都够了

[ 本帖最后由 ChaChing 于 2010-7-24 10:59 编辑 ]

lxq · 发表于 2006-10-28 21:45

具体格式:
format 要求的格式,变量
如
format short,a
format rat,a

q214468952 · 发表于 2006-10-30 19:23

不知道显示比如结果的位数算不算是精度的问题。如果你是我的意思你搜索搜索

wszc · 发表于 2006-10-30 20:41

嗯谢谢各位了
刚开始在求解非线性问题是遇到的精度问题主要是控制迭代次数
后来我自己编程进行计算而不是运用fsolve 该问题已经得到很好的解决了呵呵

账号		自动登录	找回密码
密码			我要加入

[编程技巧] 求助怎设置计算精度