heaventian 发表于 2010-9-27 11:50

请教下matlab计算精度的问题

对文件中的数据进行处理，文件中数据精度很高，matlab进行处理的时候，应该不会对
数据精度有损失吧？
比方输入数据：-0.484165143790815D-03
是不是输入数据什么精度，参与matlab计算的就是什么精度？

Happy99 发表于 2010-9-27 14:44

Matlab系采用double precision, 除非有特殊需求

VibrationMaster 发表于 2010-9-27 15:11

命令行输入format long 可检查

zhouyang664 发表于 2010-9-27 19:43

楼主说的问题不会出现。
MATLAB在进行存储、计算时都是采用double precision，即8字节存储；只有在显示的时候才会有format long/short的区别，这只是方便阅读，显示格式不同罢了，计算的时候都是双精度进行的
页: [1]
查看完整版本: 请教下matlab计算精度的问题