changjun-518 发表于 2008-9-1 10:04

迭代一步出现:Error: Floating point error: invalid number!!

计算中,用UDF定义速度入口,迭代一步就出现下面问题:
Error: Floating point error: invalid number
这是什么原因呢?请各位指教!

dreamqfxiao 发表于 2008-9-1 13:19

我也曾经出现过,不过重新启动下机子再进去就没了,我也不知道什么原因就好了!
我个人觉得应该和电脑有关系。

changjun-518 发表于 2008-9-3 09:58

这个cas文件,我在多个电脑上做过,并且使用了interprite和compile两种方式,进行过多次,都显示同样的错误:ERROR:floating point error :invalid number!
没能成功,我这里重启电脑也是无效,折磨太久了

changjun-518 发表于 2008-9-14 15:33

自己解决!

UDF出错了,主要是坐标对应的问题:x=r;y=r;z=r!不要把坐标搞错就行了。

[ 本帖最后由 changjun-518 于 2008-9-14 15:35 编辑 ]

changjun-518 发表于 2008-9-14 15:40

解决心得!

对于这个问题,其本质上就是迭代初值不能为0(计算机内部迭代要求分母不能为0,大家都知道的)!
如果你在计算中也出现了类似问题,我觉得你应该首先应该向这个方面想,如果能够想到迭代初值不能为0,那么你就能够更方便的检查你的问题了。

cora 发表于 2008-9-14 15:44

这个错误提示还有其他一些可能
比如边界条件设置不合理,动量方程源项很大,可能会出现出现异常的局部速度从而导致这一错误的发生
当然某些情况下的亚松弛因子过大也有可能出现这一问题

changjun-518 发表于 2008-9-22 11:12

楼上说的不错,边界条件和松弛银子等都有可能导致这个问题

zisejingling 发表于 2008-9-24 21:21

有可能是边界条件的原因吧

romans 发表于 2008-12-21 11:23

楼上的说的非常好,学习了
页: [1]
查看完整版本: 迭代一步出现:Error: Floating point error: invalid number!!