02.浮動小数点数と整数と紙上の数学的計算値

• top
• 数学
• 幾何学
• [ 02.浮動小数点数と整数と紙上の数学的計算値 ]

作成日: 2023/01/12 更新日: 2023/03/25

初めに

1. 私たちは、紙の上で計算（特に加減乗除）をするとき、値の大きさや小ささ（値の範囲）を意識することが、ほとんどありません。
2. ところが、コンピュータで計算する時、ある決まった範囲の値である必要があります。

コンピュータが計算できる（保持できる）値の範囲

1. コンピュータの値の最小単位を1ビットと呼びます。
   １ビットは、０か１の値のいずれかになります。
2. ビットを８つまとめたものを１バイトと呼びます。

整数

値の表記方法

1. コンピュータの値を表記する時、１６進法を用いるのが一般的です。
2. 以下に、４ビットの値の場合の２進法、１０進法、１６進法の表記表を挙げます。

自然数

1. 上表のように４ビットを１６進法で１桁（０～F）で表記できますので、１バイト（８ビット）は１６進法の２桁で表記できます。
   1. 例えば、”７B”の時、7ｘ2の4乗+B（11）=112+11=123
2. そして、自然数を１バイトで表現すると０（００）～２５５（FF）の範囲の値をとることができます。
3. 尚、負の整数については整数の演算を参照してください。

実数

1. コンピュータで実数を表記する時、実数表記のために用いられたサイズ（バイト数）中の決められたビットサイズを整数部と少数部に割り当てます。
2. コンピュータで実数を表記する時、次の2通りの方法が用いられますが、一般的には浮動小数点法が使用されます。
   1. 固定小数点法：ある決まったビットサイズを整数部、少数部に割り当てます。
   2. 浮動小数点法：値は、(−1)^s × c × b^qで計算されます。
      s>符号ビット
      c>仮数部
      b>基数（２，１０，１６が存在しますが、この値は数値ごとではなく、使っているMPU/CPUなどに依存します。ところが、依存する基数を調べることはなかなか難しいようです。）
      q>指数部

IEEE 754-(2008)

1. 浮動小数点の表記規格です（2008年に改訂されています）。
   詳細は、IEEE 754を参照してください。
2. 上述したように、浮動小数点の値は(−1)^s × c × b^qで計算されます。
   そして、IEEE 754では、s,c,b,qの値や割り当てビット数が規格として定められています。
   1. s>符号ビット（1ビット）
   2. c>仮数部（23,52,112ビット）
   3. q>指数部（8,11,15ビット）
   4. b>IEEE 754でこの値（基数）は２になっています。

インテル系MPUのレジスタ

1. レジスタとは、MPU(CPU)が持つ高速演算用一時的記憶装置のことです。
2. そして、レジスタは機能によって数種類に分類されます。
   この記事では、演算用のレジスタをターゲットにします。
3. データは、MPU(CPU)と直結しているメモリ（メインメモリ・実装メモリ）に保持されています。
   ハードディスクやSSD、USBメモリはMPU(CPU)と直結していません。
4. MPU(CPU)が演算を行うとき、レジスタxレジスタ・レジスタxメモリのいずれかで行います。

整数の演算

1. インテル社製ペンティアムⅣ（2000年発売）の頃から、レジスタは64bitになりましたので、レジスタが実行できる整数演算の最大値は、64ビットとして考えます。
2. レジスタの最大値は8バイト（64ビット）ですが、1バイト、2バイト、4バイトの値の演算は、64ビットレジスタの一部を使用して行われます。
3. 負の値の演算を行う時、レジスタの最も左のビットをサインビットとして扱います。

実数の演算

1. IEEE　７５４に準拠します。

高水準言語（高級言語）と低水準言語（低級言語）

1. 高級言語は、人間に分かりやすい言語・構文で構成された言語で、C言語・C++・JAVAなどが属します。
2. 低級言語は、コンピュータがわかりやすい言語・構文で構成された言語で、8086アセンブラなどが属します。
3. 高級言語のほとんどは、専用のコンパイラというプログラムを機械（マシン）語に変換する機能を持っていますが、汎用的な変換を求められるために、効率の悪い変換（マシン語が多くなる）になります。
4. 低級言語は、アセンブラという機能で、言語対機械（マシン）語をほとんど１対１で変換します。

高級言語（変数の型）

1. 高級言語は、言語により構文は少し違いますが、変数（データ）の型を持っています。
2. つまり、変数の型は言語の仕様によって決められます。

整数型

1. 整数型は、以下のように厳密な値の範囲を持っています。
   1. unsigned short int（符号なし短整数型）2バイト：値＞0～65,535
   2. signed short int（符号付き短整数型）2バイト：値＞-32,768～32,767
   3. unsigned long int（符号なし長整数型）4バイト：値＞0～4,294,967,295
   4. signed long int（符号付き長整数型）4バイト：値＞-2,147,483,648～2,147,483,647
   5. unsigned long long int（符号なし長長整数型）8バイト：値＞0～18,446,744,073,709,551,615
   6. signed long long int（符号付き長長整数型）8バイト：値＞-9,223,372,036,854,775,808
      ～9,223,372,036,854,775,807

浮動小数点数型

1. float（単精度浮動小数点型）４バイト：値＞
2. double（倍精度浮動小数点型）8バイト：値＞

低級言語（変数の型）

1. 変数の型はレジスタに依存します。

演算時の注意

演算エラー

1. 演算の過程あるいは、結果を保持する時、エラーとなる代表的な例を以下に記述します。
   1. ゼロ除算：ゼロによる除算
   2. オーバーフロー：保持できる値を超過

有効桁数

1. 紙上で演算する時、「小数点以下3桁を有効数字とする」などという制約を設けることがあります。
   これは、「測定値がmmなのでｍ以下3桁しか測定していないのだから4桁目以降には意味がない」という場合などに相当します。
2. この時、小数点以下4桁目以降によって3桁目の値を丸めることがよくあります（四捨五入など）。
3. MPU（CPU）も浮動小数点演算のとき、丸めを行いますが、これは、小数点の位置を意識したものではなく、最終ビットの値の丸めを意味します。
4. 小数点位置を意識した丸めは、ソフトウェアによって行う必要があります。
5. さらに、指数部の値が大きくなっていくと、有効桁数を侵食し、意味のない数値になることがあります。
   1. 浮動小数点の値同士の乗算の結果は、指数部同士の足し算になります。
      つまり、小数点の位置がどんどんゼロから離れていくことを意味します。
   2. 回避方法は、計算式をコンパクトにし、冗長的な演算を行わないことです。

正規化

1. ある一群のデータが存在する時、「その中数（平均）をとり、各データから中数を減じて、一定の処理をして、処理後結果に中数を加算する」というテクニックが存在します。
2. この事により、一般的に処理するデータの値が小さくなり、有効数字を維持しやすくなります。
   値が小さいということは、指数部も小さくなるということです。
3. 各データから中数を減じることを、正規化と呼びます。
4. また、各データを０～１の範囲に加工することを正規化と呼ぶことがあります。
5. 正規化の目的は、MPU（CPU）の演算による有効数字の桁落ちを防ぐことにあります。

最後に

1. 何も考慮しないで、浮動小数点演算を行うと、予期せぬ演算結果が出ることがあります。
2. それを回避するため、データの正規化を行ったり、演算回数を少なくする必要があります。
3. また、MPU（CPU）のレジスタや丸めの影響で、同じプログラムでも違うコンピュータでは、異なる演算結果が出る可能性も極僅かですが、あります。

お問合せ・御要望

お問合せ