計算機のための誤差解析の基礎 の商品レビュー
- ネタバレ
※このレビューにはネタバレを含みます
プログラム例はFORTRANです。 「学術論文の正式の書き方では、原則として有効数字以外は書かないことになっている。これは、「無責任な数字は書かない」といおいう精神によるものである。」 とP7に書かれている。 しかし、構造を表現するためには、有効でなくても、相対的な数値として意味がある場合がある。そのため、数値計算に関する論文では、何が有効かという議論のために、有効数字以上を書く場合があるかもしれない。 「コンピュータでは、単純に切り捨てている機種が多い。」P19 という記載もあるが、これは表示段階での問題であるし、16進数表示をする場合もある。 このように、少し古い習慣に基づいた記述がある。 ただし、理論的な部分では間違っている訳ではないので、現実を確かめながら読み進むとよい。 ps. 資料として、当時の主な機種のワード単位、負数表現などの記載がある。
Posted by
- 1