关于fix 的一点疑惑

penghust · 发表于 2008-10-27 11:05

马上注册，结交更多好友，享用更多功能，让你轻松玩转社区。

您需要登录才可以下载或查看，没有账号？我要加入

x

数组 x=[0.14 ; 0.014] ;y=0.014;
运行  fix (x(2,1)/y) = 0 ?????????????????
用别的方法验证，用数据取代 x(2,1) 和 y
1、 x(2,1)/y ＝ 1.0000 ；
2、  fix(1.0000) = 1  ；
3 、  fix( 0.0140/0.014 ) = 1 ;

为什么 fix ( x(2,1)/y) ) = 0 ??

ChaChing · 发表于 2008-10-27 11:34

我分别用v5.3/v6.5/v7.0试了下
v5.3的确有这个问题, 但v6.5後就没有了
我想这个牵涉到除法的问题, 连2/2都不会刚好等於1 (试试fix(2/2))
记得很久以前好像也遇过类似问题, 所以需格外小心

[ 本帖最后由 ChaChing 于 2008-10-27 14:40 编辑 ]

penghust · 发表于 2008-10-27 13:21

我用的 V7.0
用 round 替换 fix 就没有这个问题
但具体原因，还没有搞清楚

ChaChing · 发表于 2008-10-27 14:45

我用的v7.0没有这个问题
why ?

账号		自动登录	找回密码
密码			我要加入

[综合讨论] 关于fix 的一点疑惑

马上注册，结交更多好友，享用更多功能，让你轻松玩转社区。

回复楼主 penghust 的帖子

回复沙发 ChaChing 的帖子

回复板凳 penghust 的帖子

[综合讨论] 关于fix 的一点疑惑

马上注册，结交更多好友，享用更多功能，让你轻松玩转社区。

回复 楼主 penghust 的帖子

回复 沙发 ChaChing 的帖子

回复 板凳 penghust 的帖子

回复楼主 penghust 的帖子

回复沙发 ChaChing 的帖子

回复板凳 penghust 的帖子