Excel中10轉16進位 為何會錯-----救命啊

Question

10進位 2.55乘100= 255 再用DEC2HEX函數 轉16進位 結果為FE
A1放2.55 A2放A1*100 A3放=DEC2HEX(A2,2) 結果A3顯示FE

但直接以10進位 255 使用DEC2HEX函數 轉16進位 結果為FF
B2放255 B3放=DEC2HEX(B2,2) 結果B3顯示FF
為何結果不同
為何 A3結果不對
有誰能救救我啊
感恩

Answer 1

excel 在作浮點運算的時候可能會發生錯誤，那是因為EXCEL的儲存與計算是遵循 IEEE 754 的規格。
建議你在作浮點運算後要使用 round , rounddown , roundup ,int ... 等函數將數字截尾。
例如你的A3公式可以改成 =DEC2HEX(int(A2),2) 就會正確了

關於浮點算數可能會在 Excel 中造成不正確的計算結果 Microsoft 網站也有說明
http://support.microsoft.com/?scid=kb;zh-tw;78113