「まえがき」より引用する :
この本では,コンピュータの中で,整数や実数がどのように表されているかというような, 一度に扱える桁数などは増えても,本質的なところに変化のないことがらを説明することを 1 つの目的としています.
また,ハードウェアの進歩だけではなく,処理をする手順,いわゆるアルゴリズムをくふうすることで処理を高速化できますが,そのようなことを勉強する上で, 前提とされる知識を説明することをもう 1 つの目的としています.
「第 3 章 実数について」では、浮動小数点の表現が詳しく説明されている。p.80 では累積和(累和)を計算するときの誤差について記述されている。
0 に 0.01 を 10000 回加えれば,100 になるはずであるが,コンピュータでは丸め誤差などが累積して,必ずしもそうはならない.次のアルゴリズム 3.1 でプログラムを作成し, 実際に計算してみると,結果は,100.0030 などとなる.(中略)傍証となるかどうかわからないが,たとえば,0.01 に近い 2 進数として有限小数の 0.0117187510 = 0.000000112 や 0.00976562510 = 0.0000001012を 10000 回加えれば, 同じコンピュータで,それぞれ,117.18750,97.656250 と誤算のない結果が得られる.
わたしもやってみた。
0.01 を 10000 回足した結果は、 である。
0.0117187510 を 10000 回足した結果は、 である。
0.00976562510 を 10000 回足した結果は、 である。
このページの数式は MathJax で記述している。
| 書名 | 情報の数理 |
| 著者 | 山本慎 |
| 発行日 | 2002 年 10 月 25 日 初版第 1 刷 |
| 発行元 | 朝倉書店 |
| 定価 | (不明) |
| サイズ | 154 ページ |
| ISBN | 4-254-11562-0 |
| その他 | 越谷市立図書館(電子図書館)にて借りて読む |