« 時間 | トップページ | 位の数え方を変更 その 2 »

2006年10月28日 (土)

位の数え方を変更

小数の位の指定の仕方を変えることにした。

これまでは、例えば小数を小数第 1 位までに四捨五入するという場合に、丸め方の種類に「位」を設定して、丸める位置の指定として「-1」を指定するようにしていたが、これからは、「-1」ではなく「1」を指定するようになる。

これは、位置を指定する値が大きくなればそれに比例して精度も上がるというようにするため。丸め方の種類に「有効桁数」を指定した場合と「位」を指定した場合とで、食い違っていたのでそれを直す。たぶん、こうしたほうがより直感に近かろうということで。

この作業はかなり大掛かりなものになろう。

|

« 時間 | トップページ | 位の数え方を変更 その 2 »

コメント

コメントを書く



(ウェブ上には掲載しません)




トラックバック


この記事へのトラックバック一覧です: 位の数え方を変更:

« 時間 | トップページ | 位の数え方を変更 その 2 »