もきもき3D

アクセスカウンタ

zoom RSS XPanelの精度と入出力工程

<<   作成日時 : 2008/01/28 19:59   >>

ブログ気持玉 0 / トラックバック 0 / コメント 0

doubleのn.nnn〜e-12とかをXPanelに通すと0になる。
Panelだとそのまま。

入力欄での表示値は双方0。

同値をfloatにキャストしてから、if(fabsf(f)<=FLT_EPSILON) f=0f;としたら0になった。

パネルは初期値を受けた時にsprintf&atof等、なんらかの形で有効桁数を落とす?
で、XPanelは自動的に劣化した表示用の値を確定値として出力するとか?
Panelは明示的にパネル操作しない限り、表示用の値が確定値として出力される事は無いとか?

動作規則がわからんから気持ち悪い('A`)

テーマ

関連テーマ 一覧


月別リンク

ブログ気持玉

クリックして気持ちを伝えよう!
ログインしてクリックすれば、自分のブログへのリンクが付きます。
→ログインへ

トラックバック(0件)

タイトル (本文) ブログ名/日時

トラックバック用URL help


自分のブログにトラックバック記事作成(会員用) help

タイトル
本 文

コメント(0件)

内 容 ニックネーム/日時

コメントする help

ニックネーム
本 文
XPanelの精度と入出力工程 もきもき3D/BIGLOBEウェブリブログ
文字サイズ:       閉じる