浮点数尾数下溢处理时，最大误差最大，但下溢处理不需要时间，平均误差又趋于零的方法

admin2022-08-02 67

问题浮点数尾数下溢处理时，最大误差最大，但下溢处理不需要时间，平均误差又趋于零的方法是()。A.ROM查表法B.“恒置1”法C.截断法D.舍人法

选项 A.ROM查表法
B.“恒置1”法
C.截断法
D.舍人法

答案 B

解析 “恒置1”法的运算过程为：结果为10.0101，10是不允许的，进行右规，11.00101(最后1省去)，11.0010，将最后1位置1，则结果是11.0011。最后的结果是偏小了。

转载请注明原文地址:https://tihaiku.com/gongwuyuan/2553715.html

计算机电网

相关试题推荐

随机试题

最新回复(0)