ページ 11

指数部の限界について

Posted: 2012年12月01日(土) 23:58
by krm
独学でただいま、実数型変数の精度について
まなんでいます。
指数部、仮数部ともに、限界があると学びました。
仮数部はビット数をふやして、ビット数で表現できる最大の数に誤差が
生じてきたら誤差が生じるまえのビット数が仮数部の限界とりかいしました。

問題は指数部です。総ビット数-符号部-仮数部=指数部
で求める以外に、ビット数をふやして、求める方法をおしえてください!

Re: 指数部の限界について

Posted: 2012年12月02日(日) 00:46
by softya(ソフト屋)
ごめんなさい。意味がわかない所があります。
krm さんが書きました:指数部、仮数部ともに、限界があると学びました。
仮数部はビット数をふやして、ビット数で表現できる最大の数に誤差が
生じてきたら誤差が生じるまえのビット数が仮数部の限界とりかいしました。
これは仮想的な規格の浮動小数点形式の話でしょうか?
それとも現実のパソコンに搭載されている規格の浮動小数点形式の話でしょうか?
krm さんが書きました:問題は指数部です。総ビット数-符号部-仮数部=指数部
で求める以外に、ビット数をふやして、求める方法をおしえてください!
これも意味が良く分かりません。
現実のパソコンに搭載されている規格の浮動小数点形式は全体で16bit/32bit/64bitと幾つかバリエーションがあるものの指数部と仮数部が固定ビット長です。

「IEEE 754 - Wikipedia」
http://ja.wikipedia.org/wiki/IEEE_754

内部では2進法で演算されるため10進数に変換するための誤差も出てしまいますが、そちらの話かなと言う気もしましたが如何でしょうか?