メインコンテンツへスキップ
見出し画像

小数と計算誤差――コンピュータの計算がぴったり合わない理由

    計算機なのに、なぜ誤差が出るのでしょうか。 原因の一つは、使える桁数が有限で、すべての小数をそのまま保存できるわけではないことです。 今回は小数の表し方と、基本的な誤差の違いを整理します。

    2進数の小数:小数点の右側にも重みがある

    正確な意味: 2進数の小数部分は、小数点の右から2の−1乗、−2乗、−3乗……を重みとして表します。

    ざっくり言うと: 右へ進むほど、1/2、1/4、1/8と半分になります。

    何に使う?: 0と1の並びで小数を表す基礎です。 例えば0.101は、1/2+1/8=0.625です。

    問題を解くときは: 小数点のすぐ右を1/2から始めます。 整数部分の右端の重み1と混同しないようにします。

    固定小数点と浮動小数点

    固定小数点の意味: 小数点の位置を、あらかじめ決めて扱う表現です。 ざっくり言うと、「どこまでが整数部分か」を固定して読みます。 用途に合わせて桁の配分を決める場合などに使います。

    浮動小数点の意味: 数を、符号・仮数・指数などの部分で表す方式です。 ざっくり言うと、「有効な数字」と「桁の大きさ」を分ける表し方です。 大きな値や小さな値を、限られたビット数で幅広く扱うために使います。

    10進数の科学的記数法で625を6.25×10の2乗と書くと、考え方をイメージできます。 これは説明用の10進数の例です。実際の2進浮動小数点のビット配置そのものではありません。

    問題を解くときは: 仮数部は精度、指数部は扱える値の範囲に関係する、と役割を分けます。 具体的なビット数や正規化の規則は、問題の指定に従います。

    固定小数点の値を実際に読む

    符号なし8ビットで、下位4ビットを小数部分と決めた例を考えます。 00011000は、整数部分0001と小数部分1000なので、1+1/2=1.5です。 別の読み方では、ビット列を符号なし整数として読んだ24を、2の4乗=16で割って1.5と計算できます。 小数部4ビットなので、隣り合う値の間隔は1/16です。 これは今回指定した形式の例であり、どんな8ビット固定小数点数もこの位置で区切るわけではありません。 用途に応じて決めた小数点位置が必要です。符号付きにする場合も、負の値の表現規則を確認します。

    丸め誤差:保存できる桁数に収めた差

    正確な意味: 数値を有限の桁数で表すために丸めた結果、元の値との間に生じる誤差です。

    ざっくり言うと: 入り切らない細かい部分を調整したためのずれです。

    何に使う知識?: 小数計算の結果を、無条件に完全一致で比較してよいか考える際などに役立ちます。 10進数の0.1は2進数では無限小数になるため、有限のビット数で近似すると誤差が生じます。

    問題を解くときは: 「桁数を収める」「四捨五入や切捨て」が手掛かりです。

    桁落ちと情報落ち

    桁落ちの意味: 近い値同士の差を取る計算などで、有効な桁が大きく減少することです。 ざっくり言うと、共通する上の桁が消えて、残った部分の精度が問題になる現象です。

    情報落ちの意味: 大きさの非常に異なる値を加減算するとき、小さい値の影響が結果に反映されなくなることです。 ざっくり言うと、大きな数に小さな数を足しても、保存できる桁数の都合で変化が残らない現象です。

    問題を解くときは: 近い値の引算か、桁の大きく違う値の加減算かを見分けます。 どちらも計算内容と表現精度が関わります。「小数だからすべて丸め誤差」と一括りにしません。

    確認問題【オリジナル】

    2進数の0.101を、10進数で表したものはどれでしょうか。

    • ア:0.101

    • イ:0.5

    • ウ:0.625

    • エ:0.75

    正解と考え方

    正解はウ:0.625です。 0.101は、1×1/2+0×1/4+1×1/8です。 0.5+0.125=0.625になります。

    アは2進数の表記をそのまま10進数として読んでいます。 イは最後の1/8を足していません。 エは0.11の値であり、真ん中の桁が1になっている計算です。

    次に読む記事

    次は、数字以外の情報です。文字を0と1で表す仕組みを整理します。

    参考資料と問題について

    学習範囲:IPA「基本情報技術者試験 シラバス Ver.9.2」数値の表現・演算精度。 https://www.ipa.go.jp/shiken/syllabus/omgdg50000005kpe-att/syllabus_fe_ver9_2.pdf

    確認問題と解説はオリジナルです。公開過去問の出題頻度は未集計です。

    前の記事:論理シフトと算術シフト――空いた桁に何を入れる?

    次の記事:単精度・倍精度と正規化――浮動小数点の中身を見る

    学習ノートの目次に戻る

    この記事が参加している募集

     
     
    ITの知識ゼロから、基本情報技術者試験の勉強を始めました📚 わからなかった言葉や問題を、自分の言葉でまとめる備忘録です。 基礎からコツコツ学んで、いつかは応用情報にも挑戦したいです! 一緒に学んでいただけたらうれしいです🌱

    あなたへのおすすめ