もきもき3D

アクセスカウンタ

zoom RSS 覚書:レイアウトNumeric角度入力値の誤差

<<   作成日時 : 2006/11/21 05:32   >>

ブログ気持玉 0 / トラックバック 0 / コメント 0

レイアウトの標準の入力欄(HPB)から打たれるキーは特定の値の時に変な誤差が出る。
90=89.99999 って感じ。 実際に使用されるRotateコマンドの仕様なのかは謎。

当然(?)グラフエディタのExpressionで「>= 90.0」と評価すると「偽」が返る。
LscriptのsetKeyValue()で与えた「90.0」を↑で評価すると「真」が返る。

Expression等を組んで動作を確認する時などに気をつけないと、評価式が間違ってるのか判らなくなるから注意。

補:実際に保持される値
Rotate    1.5707962512969971
setKeyValue 1.5707963267999998

----
float型とdouble型、RadianとDegree、無駄な変換やらなにやらでごちゃ混ぜになって変な誤差が出るっぽい。

テーマ

関連テーマ 一覧


月別リンク

ブログ気持玉

クリックして気持ちを伝えよう!
ログインしてクリックすれば、自分のブログへのリンクが付きます。
→ログインへ

トラックバック(0件)

タイトル (本文) ブログ名/日時

トラックバック用URL help


自分のブログにトラックバック記事作成(会員用) help

タイトル
本 文

コメント(0件)

内 容 ニックネーム/日時

コメントする help

ニックネーム
本 文
覚書:レイアウトNumeric角度入力値の誤差 もきもき3D/BIGLOBEウェブリブログ
文字サイズ:       閉じる