2006-02-07から1日間の記事一覧
perlプログラムが出力する実数よりJavaの方が1桁ほど丸めが少ないようです。きちんとコンバートされているかdiffで比較がし辛いのはよくないということで、ちょっと調べたところ以下のように、DECIMAL64の定義から1桁引くと良いようです。 MathContext mat…
perlプログラムが出力する実数よりJavaの方が1桁ほど丸めが少ないようです。きちんとコンバートされているかdiffで比較がし辛いのはよくないということで、ちょっと調べたところ以下のように、DECIMAL64の定義から1桁引くと良いようです。 MathContext mat…