🚀 go-pugleaf

こんにちは、関と申します。

Tsuyoshi Moriya wrote:
> 
> 森谷＠ＳＣＣ札幌です。
> 
> double（float）をprintfで、表示する時の規則について疑問があります。
> 
> 小数点以下をたとえば第2位まで表示するプログラムがあった場合、
> printf時には、四捨五入されるというものではないのでしょうか？

第２位まで表示するのであれば、第３位で四捨五入されます。但し、この
第３位の値は、printfなどで表示される「丸められた値」の第３位ではなく、
計算機内部の１６進データを正確に１０進数に直した値の第３位です。
（１０進の0.045は、１６進では0.0b851eb851e・・と続く無現小数なので
どこかで打ち切った近似値が格納されています。）

確認用プログラムで、例えば
        (void)printf("VAL = %.2f <- %.18f\n", 0.045, 0.045);
とでもして頂ければ、ご納得頂けるかと思います。

尚、printf文で「%f」を「l」で修飾するのは有害無益です。

--
関　正生 <masao.seki@fujixerox.co.jp || ma-seki@gb3.so-net.or.jp>