« #Calc のスタックオーバーフロー対策 | トップページ | Java 1.5.0_08 »

2006年8月10日 (木)

#Script 1.1 草稿版 3

今度の #Script の草稿版では、丸め条件型を変更する。

精度・精度基準・丸めの種類のほかに、「誤差修正精度」という値を加える。これは、指定された精度よりも「余分」に取る桁数を指定する。

これにより、より誤差の少ない計算ができるようになる。例えば今は、精度 6、精度基準有効桁数、種類四捨五入で 1/3*3 を計算すると、結果は 1.00000 ではなく 0.999999 になる。二回の計算により誤差が出ているわけだが、こんなことでははっきり言ってみっともない。そこで、本来よりも誤差修正精度の分だけ桁数を増やして計算し、結果を出力する際に本来の桁数に直す。こうすれば見かけ上誤差は出ない。

先に初等関数を実装したらこっちの実装が結構面倒そうなので、初等関数の実装は後回しにする。

いや、やっぱり止めた。実装どころか仕様書も複雑になりすぎる。誤差のうまい修正法についてはとりあえず棚上げ。初等関数が終わった後に、内部計算の丸め条件と表示の際の丸め条件を分けるなどして対処しよう。

|

« #Calc のスタックオーバーフロー対策 | トップページ | Java 1.5.0_08 »

コメント

コメントを書く



(ウェブ上には掲載しません)




トラックバック

この記事のトラックバックURL:
http://app.cocolog-nifty.com/t/trackback/169172/11372026

この記事へのトラックバック一覧です: #Script 1.1 草稿版 3:

« #Calc のスタックオーバーフロー対策 | トップページ | Java 1.5.0_08 »