第14回配信講義計算科学技術特論B（2022） | 理化学研究所計算科学研究センター(R-CCS)

トップページ計算科学研究センターとは人材育成計算科学eラーニング計算基礎計算科学技術特論計算科学技術特論B 2022 第14回配信講義計算科学技術特論B（2022）

第14回 7月21日数値計算における丸め誤差

数値計算には有限桁の精度でよって表現される数が用いられている。
よって、実数演算とは異なることをまず理解しておく必要がある。
本講義では，数値計算の問題点である丸め誤差の問題点について解説し、
数値計算に用いる数の性質を正しく理解することを目的とする。

資料

SlideShare（外部ぺージ）

講師プロフィール

名前: 尾崎　克久
所属: 芝浦工業大学システム理工学部数理科学科教授
略歴: 略歴（外部ページ）

他の講義を探す

（2022年7月21日）