第14回配信講義計算科学技術特論B（2024） | 理化学研究所計算科学研究センター(R-CCS)

トップページ計算科学研究センターとは人材育成計算科学eラーニング計算基礎計算科学技術特論計算科学技術特論B 2024 第14回配信講義計算科学技術特論B（2024）

第14回 7月18日数値計算における丸め誤差
数値計算には有限桁の精度でよって表現される数が用いられている。よって、実数演算とは異なることをまず理解しておく必要がある。本講義では，数値計算の問題点である誤差の問題点について解説し、数値計算に用いる数の性質を正しく理解することを目的とする。

資料

数値計算における丸め誤差（Docswellウェブサイト）

講師プロフィール

名前: 尾崎克久
所属: 芝浦工業大学システム理工学部数理科学科教授
略歴: 尾崎克久（外部ページ）

他の講義を探す

（2024年7月18日）