第14回配信講義計算科学技術特論B（2022）

トップページ計算科学研究センターとは人材育成計算科学eラーニング計算基礎計算科学技術特論計算科学技術特論B 2022 第14回配信講義計算科学技術特論B（2022）

第14回 7月21日数値計算における丸め誤差

数値計算には有限桁の精度でよって表現される数が用いられている。
よって、実数演算とは異なることをまず理解しておく必要がある。
本講義では，数値計算の問題点である丸め誤差の問題点について解説し、
数値計算に用いる数の性質を正しく理解することを目的とする。