もきもき3D

アクセスカウンタ

zoom RSS round()

<<   作成日時 : 2007/02/23 14:50   >>

ブログ気持玉 0 / トラックバック 0 / コメント 0

round(x, 0);(少数第一を評価)するとマイナス値は1多くなる(w

x = 1.555としてround(x, 1);すると戻値は1.6。 x = -1.555では-1.6。
同値でround(x, 0);すると2と-1になる。

桁指定0以外では±値の軸対象性を維持出来る。

指定0をしたい時は、0.1倍してからround(x,1)して、戻値を10倍にするのが正解?

2.000000001と0.200000001x10(2.00000001)では誤差が10倍違うから、場合によっては更にround(x, 1)して、その整数値に応じた誤差を持つ値にした方が良いかもしれん。
まぁ、そこまでする必要は無いだろうけど(w

----
LW9.2だったか9.3で適切な結果を返すようになった。

テーマ

関連テーマ 一覧


月別リンク

ブログ気持玉

クリックして気持ちを伝えよう!
ログインしてクリックすれば、自分のブログへのリンクが付きます。
→ログインへ

トラックバック(0件)

タイトル (本文) ブログ名/日時

トラックバック用URL help


自分のブログにトラックバック記事作成(会員用) help

タイトル
本 文

コメント(0件)

内 容 ニックネーム/日時

コメントする help

ニックネーム
本 文
round() もきもき3D/BIGLOBEウェブリブログ
文字サイズ:       閉じる