今日、やったこと

[確認テスト]文字コード

誤差

今日のホワイトボード

丸め誤差は丸め操作を行うことで生じる誤差。

丸め操作はケタ内に収めるために行う、切り上げや切り捨て、四捨五入等のこと。

10進数の0.05を2進数へ変換すると、循環小数になってしまう。

よって、桁数が限られている場合、丸め操作を行って、ケタ内に収める。このときに丸め誤差が発生する。

図　丸め誤差

近い値同士のひき算によって、有効桁数が減ることがケタ落ち。

有効桁数とは、信頼できる値のケタ数。

信頼できる値とは、

逆に、信頼できない値は　ケタ合わせのために挿入した値。

図　有効ケタ数

離れた値同士の計算の際、指数を合わせるために、仮数を調整した結果、値が消えるために発生する誤差。

算数的には等価な以下の２つの計算をカッコの位置を変えて行うと結果が異なる。

これは正しい。

図　式1のばあい

式1の結果と異なる。

図　式2

カッコ内の計算をする際、指数を合わせるために仮数を調整する。

その結果、切り捨てられる値が発生して誤差になる。

練習問題の解説。

誤差のテストは次々回にします。

論理回路。