在Excel、计算器和程序中显示时有什么区别



换算过程中最容易发生的错误是少移动一位或多移动一位。可以用相邻结果进行复核:3.69E+10等于36900000000,3.69E+12等于369000📢0000000;指数每增加1,数值就扩大10倍,指数每减少1,数值就🤔缩小10倍。



如果指数为负数,规则会反🎆过来。例如6.2E-4等于0.00062,表示小数点向左移动4位。正指数和负指数的方向不能混淆,否则会造成数量级相差10的若干次方。



尾数3.69通常包含💫3位有效数字。若数据由“3.69×10的11次方”经过测量或计算得到,常见含义是结果精确到约3位有效数字,真实值可能在相应的舍入范围内;若数据是一个精确的整数常量,3.69也可能只是软件为了节省显示空间而采用的科学计数法格式。



看到E+11时的快速排查清单



面对科学计数法结果,快速排查应从“数值、单位、精度、来源”四个方面进行,而不是只把E删除后读取数字。



如果换算后的结果与预期相差10倍、100倍或更多,优先检查指数是否抄错、单位是否发生了千倍或百万倍转换,以及小数点移动方向是否正确。若多个软件显示结果不一致,还应比较格式设置与底层存储值,而不能仅比较屏幕上的字符串。



举报/反馈