MFC中Cstring转float时精度出现问题,求助
CString parameterB_Set_Ls;//装置连接电抗,0.00~327.67,mH,默认值78.03
set_parameterB2.GetFieldValue(_T("Set_Ls"),parameterB_Set_Ls);
float value_57=(float)atof(T2A(parameterB_Set_Ls));
int parameterB_INT_Set_Ls;
parameterB_INT_Set_Ls=(int)((value_57+1.0e-6)*100.0);
当我把36.1用此方法转成float时得到了36.09,转36.6时变成了36.59,求各位大神
[解决办法]
或者先乘个100,按整数处理完在除个100
float f=36.1;
f=f*100;
spirntf(..,'%f',f);
...
f=f/100;
[解决办法]
试试FormatFloat函数