浮点数尾数下溢处理时,最大误差最大,但下溢处理不需要时间,平均误差又趋于零的方法

admin2022-08-02  56

问题 浮点数尾数下溢处理时,最大误差最大,但下溢处理不需要时间,平均误差又趋于零的方法是()。A.ROM查表法B.“恒置1”法C.截断法D.舍人法

选项 A.ROM查表法
B.“恒置1”法
C.截断法
D.舍人法

答案 B

解析 “恒置1”法的运算过程为:结果为10.0101,10是不允许的,进行右规,11.00101(最后1省去),11.0010,将最后1位置1,则结果是11.0011。最后的结果是偏小了。
转载请注明原文地址:https://tihaiku.com/gongwuyuan/2553715.html

最新回复(0)