声振论坛

 找回密码
 我要加入

QQ登录

只需一步,快速开始

查看: 3096|回复: 5

[编程技巧] 如何将数值型的变量改变精度

[复制链接]
发表于 2007-6-4 15:51 | 显示全部楼层 |阅读模式

马上注册,结交更多好友,享用更多功能,让你轻松玩转社区。

您需要 登录 才可以下载或查看,没有账号?我要加入

x
如a=0.123456789
我现在想用a=0.123400000
不是光显示的成这样,而是就让他四舍五入到四位有效数字,用哪个函数?
回复
分享到:

使用道具 举报

发表于 2007-6-4 16:04 | 显示全部楼层
round(a*10000)/10000

[ 本帖最后由 咕噜噜 于 2007-6-4 16:06 编辑 ]

评分

1

查看全部评分

 楼主| 发表于 2007-6-4 16:11 | 显示全部楼层

回复 #2 咕噜噜 的帖子

比较巧妙,多谢了
另外matlab有没有这样的函数?
发表于 2007-6-4 16:13 | 显示全部楼层
只有控制整体精度的函数vpa,好像没见过你说的这个
 楼主| 发表于 2007-6-4 16:25 | 显示全部楼层

回复 #4 咕噜噜 的帖子

vpa的结果是一个字符型的,如何把字符型的变量 如矩阵怎么转换为数值?

[ 本帖最后由 eight 于 2007-6-4 16:28 编辑 ]
发表于 2007-6-4 16:55 | 显示全部楼层
vpa通常定义数值变量精度
将字符型变量也就是符号变量转换为数值变量只有赋值,途径可能各有不同
您需要登录后才可以回帖 登录 | 我要加入

本版积分规则

QQ|小黑屋|Archiver|手机版|联系我们|声振论坛

GMT+8, 2024-9-24 07:18 , Processed in 0.053964 second(s), 18 queries , Gzip On.

Powered by Discuz! X3.4

Copyright © 2001-2021, Tencent Cloud.

快速回复 返回顶部 返回列表