もきもき3D

アクセスカウンタ

zoom RSS hmotとか。このままdoubleとfloatの混在が続くのだろうか('A`)

<<   作成日時 : 2008/03/19 21:16   >>

ブログ気持玉 0 / トラックバック 0 / コメント 0

LW9.xだとHMotSaverはdoubleの有効桁以上で書き出すのね。
今日気付いた(;・з・) でもv1.2以前でどうなってるかは謎。
motionMixerも9だとdouble桁でhmotを吐くのね。

LW9未満なら従来通りAPIにfloat値を投げて文字列化はLW任せ、9なら自分で文字列化してから文字列として投げる、とかしてるのかな?

読む時はどうすりゃいいんだろ('A`)
APIでfloatとしてfloatに読み込む?
sscanfでdoubleに読み込む?
文字列として読んで、スペースで切り分けてatofでdoubleに読み込む?

ウーン('A`)
-----
旧シーン(float)を読む>doubleになり値が変わる>それをhmot(double)で吐いて>そのhmot(double)を読み直すと更に値が変わった(;;・з・)
16桁目とかだから量としては無視出来るものだけど、読み書きだけでコロコロ値が変わるデジタルデータってのは気持ち悪い('A`)
-----
不定になるのは17桁目だった(;・з・)
適当にドラッグして発生した値を8でhmotSaver=0.39078629
9でMapMotion後、hmotSaver(MotionMixerでも同じ)0.39078629000000004
それをさらにMapMotion=0.3907862900000000x。
channelInfoでdouble値を(%.17g、%.21g)見るとxが7だったり9だったりする。
SceneSaveでLWSを吐いてみても同様。
%.16gでみると16桁目が1に。  0.39078629をbit表記して妥当性を評価する根性は無し('A`)
f=0.39078629fとして、doubleにキャストすると0.3907862以降は全然違う値になる。

どういう変換規則で処理してるのかわかんねぇ('A`)

テーマ

関連テーマ 一覧


月別リンク

ブログ気持玉

クリックして気持ちを伝えよう!
ログインしてクリックすれば、自分のブログへのリンクが付きます。
→ログインへ

トラックバック(0件)

タイトル (本文) ブログ名/日時

トラックバック用URL help


自分のブログにトラックバック記事作成(会員用) help

タイトル
本 文

コメント(0件)

内 容 ニックネーム/日時

コメントする help

ニックネーム
本 文
hmotとか。このままdoubleとfloatの混在が続くのだろうか('A`) もきもき3D/BIGLOBEウェブリブログ
文字サイズ:       閉じる