Welcome Guest
コンテンツ
ホームページ
ログイン
ユーザー名:

パスワード:

Google AdSense
靴屋の検索
トップ  >  あめぞうの過去ログ  >  情報落ち、桁落ちってどういうこと?
1情報落ち、桁落ちってどういうこと? 投稿者:誤差 投稿日:99年05月22日(土)16時16分32秒

なんかプログラムで計算してると誤差が発生するんだよね。
情報落ち、桁落ちってどういうことなんですか?
情報2種、情報1種を持っている方教えて下さい。

2 投稿者:bela 投稿日:99年05月22日(土)16時38分19秒
HPのカウンターで、桁数が4桁しかなければ、「9999」の次に「0」になりますよね(本来10000)。
これって一種の桁落ちでしょう。

実際に求めたい数値の精度に対して、計算式で使うエリアの桁数が不足していたりすると
発生するのではないでしょうか?
上記カウンターのような場合は、桁数を増やせば解決できます。
小数点以下の誤差を防ぐ場合、小数点以下の有効桁数を増やしても(ある程度)解消できると思います。
その他、例えば小数点以下を持つ数を10N倍しておき(0.01なら100をかけて1に)
計算を行い、答えが出てから先にかけた分で割ってあげると良いかもしれません。

1種、2種ともに持ってないので、あまり良い答えではないかも。ごめんなさい。

3 投稿者:リローダー@こ子 投稿日:99年05月22日(土)16時57分05秒
桁落ちは、コンピュータによる数値計算において注意しなければならないことで、
具体的には、大きい数と小さい数の加減算を行う時に発生します。
例えば、10000+0.00001=10000.00001のように、元々の数は有効数字1桁なのに、
結果の有効数字が10桁にもなってしまうような場合です。
この桁落ちによって、計算結果が実際と大きく違ってしまうことがあるのです。

↓2次方程式の解を求める時の桁落ちしないための工夫について
http://www.edu.ics.saitama-u.ac.jp/~j541hy/na/na2_1.html
前
大阪は、いったいどうなるのでしょうか。
カテゴリートップ
あめぞうの過去ログ
次
うわあ
Copyright © 2001-2012 Shoemaker Smith