覚書:レイアウトNumeric角度入力値の誤差
レイアウトの標準の入力欄(HPB)から打たれるキーは特定の値の時に変な誤差が出る。
90=89.99999 って感じ。 実際に使用されるRotateコマンドの仕様なのかは謎。
当然(?)グラフエディタのExpressionで「>= 90.0」と評価すると「偽」が返る。
LscriptのsetKeyValue()で与えた「90.0」を↑で評価すると「真」が返る。
Expression等を組んで動作を確認する時などに気をつけないと、評価式が間違ってるのか判らなくなるから注意。
補:実際に保持される値
Rotate 1.5707962512969971
setKeyValue 1.5707963267999998
----
float型とdouble型、RadianとDegree、無駄な変換やらなにやらでごちゃ混ぜになって変な誤差が出るっぽい。
90=89.99999 って感じ。 実際に使用されるRotateコマンドの仕様なのかは謎。
当然(?)グラフエディタのExpressionで「>= 90.0」と評価すると「偽」が返る。
LscriptのsetKeyValue()で与えた「90.0」を↑で評価すると「真」が返る。
Expression等を組んで動作を確認する時などに気をつけないと、評価式が間違ってるのか判らなくなるから注意。
補:実際に保持される値
Rotate 1.5707962512969971
setKeyValue 1.5707963267999998
----
float型とdouble型、RadianとDegree、無駄な変換やらなにやらでごちゃ混ぜになって変な誤差が出るっぽい。
この記事へのコメント