round()
round(x, 0);(少数第一を評価)するとマイナス値は1多くなる(w
x = 1.555としてround(x, 1);すると戻値は1.6。 x = -1.555では-1.6。
同値でround(x, 0);すると2と-1になる。
桁指定0以外では±値の軸対象性を維持出来る。
指定0をしたい時は、0.1倍してからround(x,1)して、戻値を10倍にするのが正解?
2.000000001と0.200000001x10(2.00000001)では誤差が10倍違うから、場合によっては更にround(x, 1)して、その整数値に応じた誤差を持つ値にした方が良いかもしれん。
まぁ、そこまでする必要は無いだろうけど(w
----
LW9.2だったか9.3で適切な結果を返すようになった。
x = 1.555としてround(x, 1);すると戻値は1.6。 x = -1.555では-1.6。
同値でround(x, 0);すると2と-1になる。
桁指定0以外では±値の軸対象性を維持出来る。
指定0をしたい時は、0.1倍してからround(x,1)して、戻値を10倍にするのが正解?
2.000000001と0.200000001x10(2.00000001)では誤差が10倍違うから、場合によっては更にround(x, 1)して、その整数値に応じた誤差を持つ値にした方が良いかもしれん。
まぁ、そこまでする必要は無いだろうけど(w
----
LW9.2だったか9.3で適切な結果を返すようになった。
この記事へのコメント