高手对Java中的浮点数分析
百度广告
float占4个字节,double占8个字节,为了方便起见,这里就只讨论float类型.
float其实和一个int型的大小是一样的,一共32位,第一位表示符号,2-9表示指数,后面23位表示小数部分.这里不多说,请参考:http://blog.csdn.net/treeroot/archive/2004/09/05/95071.aspx
这里只举一个例子,希望能抛砖引玉,就是研究一下浮点数0.1的存储形式,先运行这个程序.
public class Test{
public static void main(String args) {
int x = 0x3d800000;
int i = 1 = 1;
}
pr(x);
pr(y);
}
static void pr(int i) {
System.out.println(Integer.toBinaryString(i));
}
}
结果:
111101110011001100110011001101
111101110011001100110011001101
程序说明:
int x=0x3d80000;
因为浮点表示形式为1.f*2n-127我们要表示0.1,可以知道n-127=-4,到n=123
符号为正,可知前9是 001111011,暂时不考虑后面的23位小数,所以我们先假设x=0x3d800000;
int i = 1 = 1;
}
这个循环来计算23位小数部分,如果rest不小于deta,表示这个位可以置为1.
其他的不多说了,输入结果是一样的,可以说0.1这个浮点数肯定是不精确的,但是0.5可以精确的表示,想想为什么吧.
编辑推荐:
温馨提示:因考试政策、内容不断变化与调整,长理培训网站提供的以上信息仅供参考,如有异议,请考生以权威部门公布的内容为准! (责任编辑:长理培训)
点击加载更多评论>>