VB6におけるDoubleデータ型とSingleデータ型の比較 - TechRepublic

SingleとDoubleというデータ型は、VB6の2つの浮動小数点型です。これらは 、小数点の右側に桁を持つ
数値を格納するために使用されます。小数点の 位置が変化するため、桁数は変化します（そのため「浮動小数点」と呼ばれます） 。例えば、

1.23456 

12.3456 

123.456

ダブルとシングルの違い

ほとんどのプログラマーは、Double 型は
Single 型よりも大きな値を保持できること、また Double 型では保存に
4 バイトではなく 8 バイトの大きなスペースが必要であることを知っています。

DoubleとSingleの最も重要な違いは、
値を表現できる精度です。例えば、Single型
は7桁までしか扱えません。そのため、以下の値はSingle型で問題なく扱えます。

1.23 

123999 

79.098

ただし、値 123456789 を
Single 型に格納しようとすると、7 桁の 123456800 に丸められます。同様に、値 1.23456789 は
1.234568 に切り捨てられます。

一方、Double型は15桁の精度を許容します。そのため、
多くの数学的計算を行うプログラムでは、
必要に応じてDouble型を使用してください。そうしないと、精度が低下します。

注: Visual
Basicのヘルプには、28桁の精度を持つ「Decimal」というデータ型について説明されています。
これは素晴らしいように思えますが、残念ながら実際には実装されていません。

ヒントを見逃しましたか?

Visual Basic アーカイブをチェックして、Peter Aitken のコラムの最新版を読んでください。

毎週金曜日に配信されるTechRepublicの無料Visual Basicニュースレターで、スクリプトスキルを次のレベルに引き上げましょう。今すぐ登録して、今すぐ始めましょう！