yoshikawak'z weblog

気になったIT関係の記事をメモって行くブログ

2017-07-30から1日間の記事一覧

小数点誤差での失敗例

http://www.sydrose.com/case100/298/ Twitterでみかけた。小数点の切り捨て誤差が積もり積もって計算精度が落ちて、ミサイル迎撃に失敗した話。 この場合って、いわゆるbigdecimal的なもので計算すべきなのだろうか。何となく、計算速度が遅そうなイメージ…