2020重庆军队文职招聘考试计算机知识:足够高的计算精度

足够高的计算精度

理论上，电子计算机的计算精度不受限制，一般的计算机均能达到15位有效数字，通过一定的技术手段，可以实现任何精度要求。数的精度主要由这个数的二进制码的位数决定，可以通过增加数的二进制位数来提高精度，位数越多精度就越高。