コンピュータのカオスをおさえる 新しい「安定」計算術 コミュニケーションサイエンスシリーズ1

白柳潔(著者), NTTコミュニケーション科学基礎研究所

• 販売会社／発売会社: NTT出版/
• 発売年月日: 2003/10/10
• JAN: 9784757101111

商品レビュー

2018/10/23

コンピュータでの計算は、多くの誤差を生み出す。例えば、　　y = 1/3*x-1という簡単な式においても、浮動小数点演算を前提とすれば、x=3の場合、y=0.000…1となってしまい、実際の数学的回答であるy=0とは誤差を生み出す。誤差がこの程度の場合ならば、たいしたことにならないだろうが　　yが０ならば"OK"、そうでないならば、"ERROR"という式では非常に重要な問題を引き起こす。やはり、x=3としてみると、数学的にはこの式は"OK"と表示されなければならないが、コンピュータでは"ERROR"（y=0.000…1となりyが０ではないから)となってしまうからだ。これは非常に具合が悪い。これをコンピュータでどのように扱えば、数学的結果と合致するのか、という方法論が本書のテーマである。数字を点ではなく、エリアで捉えるという考えはなかなか面白いが、この程度の話であれば、コンピュータに小数でなく分数を扱わせればいいじゃないかと思う読者は私だけではないはず。