C++ 和 matlab 运算的精度问题
我用C++和matlab分别写了一段程序,用于从txt文本中读取数据,然后显示dib位图(8位)。
数据格式如下,
.7917,.0167,.0013
三个值*255后代表rgb的三个分量
两种方法,生成的位图的每个像素的rgb分量,大概会偏差1,一般是matlab算出的数据较大。
请问这是为什么?
[解决办法]
Matlab 默认 double 精度, 都是标准的IEEE 754
对于图像, RGB 0-255 ,一般标准化到 0~1之间的double
小数取整, 有 floor, ceil, fix , round 等四种常见的取整算法
[解决办法]