たぷつきません

おなかがでてきた。もうたぷついてるやん。

2006-02-07から1日間の記事一覧

perlの実数精度に合わせる

perlプログラムが出力する実数よりJavaの方が1桁ほど丸めが少ないようです。きちんとコンバートされているかdiffで比較がし辛いのはよくないということで、ちょっと調べたところ以下のように、DECIMAL64の定義から1桁引くと良いようです。 MathContext mat…