wwg.no.19 发表于 2009-7-8 12:27

VBA二次开发精度问题

各位，VBA二次开发中都有用m作为单位的，因此1mm就该输入0.001，但是这样输入的话程序运行后0.001就被默认位0了，这应该还算常用，哪位能有好的解决办法啊。

心灯 发表于 2009-7-8 12:58

VBA里面也需要声明变量的类型的吧？ 单元格内的数据是如何处理的？ 若是设置为单精度或者双精度，应该不会出现0的。
了解一些QB，VB，而在office中对VBA只是曾经很简单的用过，所以不能深入讨论，抱歉。

wwg.no.19 发表于 2009-7-8 13:15

dim a as double

adolf6269 发表于 2009-8-15 15:26

一般在工程上用单精度就够了，单精度后面还有很多位小数，应该不会丢失很多精度的。
页: [1]
查看完整版本: VBA二次开发精度问题