2008-02-03から1日間の記事一覧

浮動小数点の精度

今私は automated software verification からの派生で、力学系の simulation 言語で、系を記述する微分方程式を打ち込めば (一定の条件下でなら) 誤差を自動で見積もって計算結果の精度に関する警告あるいは保証をくれた上で数値的に解いてくれる、というも…