« プログラムにおける複素数の扱い | トップページ | Re: あゆしゃ VS メルセンヌ »

2006年9月12日 (火)

#Script 精度の扱い

今の #Script 仕様では、数値の制度はかなり大雑把な扱い方をしているが、このままでよかろうか。

「丸め条件」によって各値の精度が決まるわけだが、各初等関数における精度の扱いなどは厳密に定義していない。かといって、厳密に定義するとなると数値そのものの他に精度も計算しなくてはならなくなる。実際、Mathematica は数値そのものの他に精度もちゃんと計算しているのだが、#Script でそれをやるとなると仕様書を大幅に書き換えなきゃいけないし、#Calc のプログラムもほとんど一から書き直さなきゃいけないし。

「演算モード」を無くすついでに、「丸め条件」ももっと言語仕様としてエレガントにしたいのだが、うーむ。

|

« プログラムにおける複素数の扱い | トップページ | Re: あゆしゃ VS メルセンヌ »

コメント

コメントを書く



(ウェブ上には掲載しません)




トラックバック

この記事のトラックバックURL:
http://app.cocolog-nifty.com/t/trackback/169172/11871374

この記事へのトラックバック一覧です: #Script 精度の扱い:

» #Script 精度の扱い その 2 [まじかんと雑記]
結局、#Script にも Mathematica 風の「精度追跡機能」を付ける [続きを読む]

受信: 2006年9月27日 (水) 22時41分

« プログラムにおける複素数の扱い | トップページ | Re: あゆしゃ VS メルセンヌ »