計算機のための誤差解析の基礎

戸川隼人(著者)

• 販売会社／発売会社: サイエンス社
• 発売年月日: 1989/07/01
• JAN: 9784781905501

商品レビュー

2011/11/20

プログラム例はFORTRANです。
「学術論文の正式の書き方では、原則として有効数字以外は書かないことになっている。これは、「無責任な数字は書かない」といおいう精神によるものである。」
とP7に書かれている。
しかし、構造を表現するためには、有効でなくても、相対的な数値として意味がある場合がある。そのため、数値計算に関する論文では、何が有効かという議論のために、有効数字以上を書く場合があるかもしれない。

「コンピュータでは、単純に切り捨てている機種が多い。」P19
という記載もあるが、これは表示段階での問題であるし、１６進数表示をする場合もある。
このように、少し古い習慣に基づいた記述がある。

ただし、理論的な部分では間違っている訳ではないので、現実を確かめながら読み進むとよい。

ps.
資料として、当時の主な機種のワード単位、負数表現などの記載がある。