$DOUBLE

等値比較と混合算術

$DOUBLE で生成される数値は、正確には小数点以下の桁数と一致しないバイナリ表現に変換されるため、$DOUBLE 値と標準 Caché 浮動小数点数値の間での同等比較は予期しない結果を生じさせる場合があり、一般的にはこれを回避する必要があります。$DOUBLE 値と標準 Caché 浮動小数点数値の間では、丸めを行わず、正確に比較を行います。

1 つの $DOUBLE 値と 1 つまたは複数の標準の Caché 数を含む混合算術は、$DOUBLE 値を返します。混合算術では、Caché は算術演算を実行する前に、すべての数値を $DOUBLE 値に自動的に変換します。$DOUBLE 数値表現から、またはこの数値表現への変換、および数値表現間の比較は、Caché が処理します。したがって、すべてのプラットフォームで同じ処理となります。ただし、$DOUBLE 値を含む算術演算は、基盤となるオペレーティング・システムによって制御されるため、プラットフォーム間で異なる場合があります。IEEE 倍精度数を含む算術演算の詳細は、“Caché プログラミング入門ガイド” の付録 "インターシステムズ・アプリケーションでの数値の計算" を参照してください。

整数除算

特定の値の場合、Caché の 10 進数の浮動小数点数および IEEE 倍精度数は、異なる整数除算結果を生成します。次に例を示します。

  WRITE !,"Divide operations:"
  WRITE !,"Cache  /: ",4.1/.01           // 410
  WRITE !,"Double /: ",$DOUBLE(4.1)/.01  // 410
  WRITE !,"Integer divide operations:"
  WRITE !,"Cache  \: ",4.1\.01           // 410
  WRITE !,"Double \: ",$DOUBLE(4.1)\.01  // 409

プラットフォームの独立性

標準の Caché の 10 進数の浮動小数点数 ($DECIMAL 数) は、小数桁数 18.96 桁の近似精度になります。この精度は、Caché がサポートしているすべてのシステム・プラットフォームで一貫しています。

IEEE 倍精度浮動小数点数 ($DOUBLE 数) は、プラットフォームに依存しない標準の内部表現を持ちます。$DOUBLE 数と $DECIMAL 数の間の変換および比較は、Caché がサポートするすべてのシステム・プラットフォームで一貫しています。ただし、その他の $DOUBLE 数の計算は、システム・プラットフォームに基づいて若干異なる場合があります。

入力値としての INF と NAN

$DOUBLE を INF と NAN に返すには、num 入力値と同等の文字列を指定します。これらの入力値は大文字と小文字を区別せず、先頭にプラス符号とマイナス符号を使用できます (INF は符号を解決し、NAN は符号を無視します)。NAN を返すには、“NAN”、“sNAN”、“+NAN”、“-NAN” を指定します。INF を返すには、“INF”、“+INF”、“Infinity” を指定します。-INF を返すには、“-INF” と “+-INF” を指定します。

IEEEError

IEEEError は、解決できない数値変換に対する $DOUBLE の応答方法を制御します。IEEEError が 0 に設定されている場合、$DOUBLE は変換を解決できないときに INF と NAN を返します。IEEEError が 1 に設定されている場合、$DOUBLE は変換を解決できないときに標準の Caché エラー・コードを生成します。既定値は 1 です。

%SYSTEM.ProcessOpens in a new tab クラスの IEEEError()Opens in a new tab メソッドを使用すると、この動作をプロセスごとに制御できます。システム全体の既定の動作は、Config.MiscellaneousOpens in a new tab クラスの IEEEErrorOpens in a new tab プロパティで設定できます。

INF と NAN の返り値

極端に大きな数字を指定したり、解決できない算術演算を指定すると、$DOUBLE は INF と NAN を返します。これらの値が返されるのは、IEEEError が INF および NAN を返すように設定されている場合のみです。

極端に大きい浮動小数点数はサポートされません。$DOUBLE のバイナリ浮動小数点数でサポートされる最大値は 1.7976931348623158079e308 です。$DOUBLE のバイナリ浮動小数点数でサポートされる最小値は 1.0E-323 です。これより小さい num 値は 0 を返します。

以下のテーブルは、返り値または解決できない算術演算によって生成されたエラーを示します。

INF と NAN の比較

INF は数値として比較できます。例えば、INF = INF、INF '= –INF、–INF = –INF、INF > –INF となります。

NAN は数値として比較できません。NAN (非数値) は数値演算子を使用して有意義に比較できないため、$DOUBLE(“NAN”) と別の $DOUBLE(“NAN”) を比較しようとする Caché 演算 (より大きい、等しい、より小さいなど) は失敗します。NAN <= または >= での比較は特殊な場合です。これは、“Caché プログラミング入門ガイド” の付録 "インターシステムズ・アプリケーションでの数値の計算" で説明されています。

$LISTSAME は $DOUBLE(“NAN”) リスト要素を別の $DOUBLE(“NAN”) リスト要素と同一と見なします。

Caché は、異なる NAN 表現 (NAN、sNAN など) を区別しません。NAN のバイナリ表現に関係なく、すべての NAN を同一と見なします。

$ISVALIDNUM、$INUMBER、および $FNUMBER

これらの ObjectScript 関数は、$DOUBLE 数をサポートしています。

$ISVALIDNUM は、INF および NAN をサポートしています。これらの文字列は数字ではありませんが、$ISVALIDNUM 関数は、これらの値に対して数字として 1 を返します。$DOUBLE が $DOUBLE("") などの数値でない文字列を使用して指定されている場合、Caché は 0 を返します。このため、0 は数字なので、$ISVALIDNUM($DOUBLE("")) は 1 を返します。

$INUMBER および $FNUMBER は、$DOUBLE 値をサポートする “D” 形式オプションを提供します。$INUMBER は、数値を IEEE 浮動小数点数に変換します。$FNUMBER “D” のサポートは、INF および NAN の大文字と小文字の変換を含み、$DOUBLE(-0) が 0 と -0 のどちらを返すかを選択します。

演算子を使用した INF と NAN

INF と NAN に対して算術演算子と論理演算子を実行できます。INF と NAN と共に演算子を使用することはお勧めしません。このような演算を実行すると、以下のような結果になります。

算術演算子 :

論理演算子 :

パターン・マッチングや連結演算子などの他の演算子は、3 文字のアルファベット文字列として NAN と INF を扱います。

IEEE 倍精度数を含む演算の詳細は、“Caché プログラミング入門ガイド” の付録 "インターシステムズ・アプリケーションでの数値の計算" を参照してください。

INF と NAN の例

以下の例に示すように、数値が使用可能な精度を超えた場合、$DOUBLE は INF 値 (負数に対しては -INF) を返します。

  SET rtn=##class(%SYSTEM.Process).IEEEError(0)
  SET x=$DOUBLE(1.2e300)
  WRITE !,"Double: ",x
  WRITE !,"Is number? ",$ISVALIDNUM(x)
  SET y= $DOUBLE(x*x)
  WRITE !,"Double squared: ",y
  WRITE !,"Is number? ",$ISVALIDNUM(y)

数値が無効な場合、$DOUBLE は NAN (非数値) 値を返します。例えば、以下の例に示すように、算術式に 2 つの INF 値が含まれる場合です (1 つの INF 値を含む算術式は INF を返します)。

  SET rtn=##class(%SYSTEM.Process).IEEEError(0)
  SET x=$DOUBLE(1.2e500)
  WRITE !,"Double: ",x
  WRITE !,"Is number? ",$ISVALIDNUM(x)
  SET y= $DOUBLE(x-x)
  WRITE !,"Double INF minus INF: ",y
  WRITE !,"Is number? ",$ISVALIDNUM(y)