インターシステムズ・アプリケーションでの数値の計算

数値の表現

Caché で数値を表現する方法には 2 種類あります。

• 1 つは Caché オリジナルの実装当初からあったもので、10 進形式と呼ばれます。

  クラス定義では、プロパティに小数点形式の数を含めるときに、%Library.DecimalOpens in a new tab データ型クラスを使用します。

• もう 1 つは IEEE Binary Floating-Point Arithmetic 標準 (#754-1985) に準拠した形式で、近年サポートされるようになりました。この後者の形式は $DOUBLE 形式と呼ばれ、数値をこの形式に変換するために使用される ObjectScript 関数 ($DOUBLE) にちなんで名付けられたものです。

  クラス定義では、プロパティに $DOUBLE 形式の数を含めるときに、%Library.DoubleOpens in a new tab データ型クラスを使用します。

数値形式の選択

使用する形式の選択は、計算の要件に大きく依存します。Caché の 10 進形式では 18 桁を超える精度が許可されますが、$DOUBLE では 15桁 しか保証されません。

多くの場合、10 進形式は使用法がより簡単で、結果も正確です。予想どおりの結果が返されるため、通常、(通貨計算などの) 10 進値の計算に使用されます。ほとんどの 10 進数の小数は、バイナリの小数ほど正確には表現できません。

それに対して、$DOUBLE 形式の数値の範囲は、ネイティブ形式で許可される 1.0E145 よりもはるかに大きい 1.0E308 になります。数値の範囲が重要となるアプリケーションでは、$DOUBLE を使用する必要があります。

データを外部で共有するアプリケーションでは、暗黙の変換対象とならないよう、データを $DOUBLE 形式で維持することも検討できます。他のほとんどのシステムでは、基礎となるハードウェア・アーキテクチャによって直接サポートされることから、バイナリ浮動小数点の表現に IEEE 標準を使用しています。したがって 10 進形式の値は、(例えば ODBC/JDBC、SQL、または言語バインディング・インタフェースを使用して) 情報交換前に変換する必要があります。

$DOUBLE 値が Caché の 10 進数に定義された範囲内にある場合、これを 10 進数に変換して再度 $DOUBLE 値に戻すと、常に同じ数値が生成されます。$DOUBLE 値の精度は 10 進値よりも低いため、逆の場合はこのようにはなりません。

その理由から、可能であれば、いずれか 1 つのデータ表現のみを使用して計算を実行することをお勧めします。データ表現間で変換を繰り返すと、精度が落ちる場合があります。多くのアプリケーションでは、すべての計算に Caché の 10 進形式を使用できます。$DOUBLE 形式は、IEEE 形式を使用するシステムとデータを交換するアプリケーションのサポートを目的としています。

$DOUBLE ではなく、Caché の 10 進形式をお勧めする理由は、以下のとおりです。

• Caché の 10 進形式は精度が高く、$DOUBLE の桁数が 16 未満であるのに対し、ほぼ 19 桁の精度を持っています。

• Caché の 10 進形式では、正確に 10 進数の小数を表現できます。例えば、0.1 という値は Caché の 10 進形式では正確に 0.1 になりますが、バイナリの浮動小数点では同値となる値がないので、$DOUBLE 形式では語義的な近似値で 0.1 を表現する必要があります。

科学的数値では、以下の点で Caché の 10 進形式よりも $Double の方が有利です。

• $DOUBLE は、ほとんどの計算ハードウェアで使用されている IEEE 倍精度浮動小数点とまったく同じデータ表現を使用します。

• $DOUBLE の方が範囲が広く、$DOUBLE による最大値は 1.7E308 であるのに対し、Caché 10 進形式による最大値は 9.2E145 です。

数値表現の変換

Caché 2007.1 以降、数値リテラルおよび計算結果の数値表現は、その値が 10 進数の範囲を超えると、自動的に $DOUBLE 表現に変換されていました。

Caché 2008.2 以降では、数値リテラルのみが $DOUBLE に自動変換されます。計算結果が範囲外の 10 進値となる場合は、この付録で後述するように適切なエラーが生成されます。

値を文字列から数値に変換する場合や、記述された定数をプログラムのコンパイル時に処理する際、最初の 38 桁の有効桁数のみが仮数の値に影響します。それ以降のすべての桁はゼロとして処理されます。つまり、指数値の決定に使用され、仮数値には影響しません。

文字列

数値としての文字列

Caché では、式に文字列が使用されている場合、その文字列の値は、その最初の文字で開始される、文字列内の最も長い数値リテラルになります。そのようなリテラルが存在しない場合、文字列の計算値は 0 になります。

添え字としての数値文字列

計算では、“04” と “4” の文字列間に違いはありません。しかし、このような文字列がローカル配列またはグローバル配列の添え字として使用される場合、Caché ではこれらの文字列が区別されます。

Caché では、先頭 (存在する場合はマイナス記号の後) や 10 進数の小数の末尾に 0 を含む数値文字列は、添え字として使用する場合、文字列であるかのように処理されます。これらは、文字列として、数値を含んでいるため、計算に使用できます。しかし、ローカル変数またはグローバル変数の添え字としては、文字列として扱われ、文字列として照合されます。以下に、例をいくつか示します。

• “4” と “04”

• “10” と “10.0”

• “.001” と “0.001”

• “-.3” と “-0.3”

• “1” と “+01”

左側は添え字として使用した場合、数値と見なされ、右側は文字列として扱われます。(無関係な先頭と末尾の 0 の部分を除く左側の形式は、“キャノニック” 形式とも呼ばれます。)

通常の照合では、以下の例のように、数値は文字列の前にソートされます。

 SET ^||TEST("2") = "standard"
 SET ^||TEST("01") = "not standard"
 SET NF = "Not Found"

 WRITE """2""", ": ", $GET(^||TEST("2"),NF), !
 WRITE 2,  ": ", $GET(^||TEST(2),NF), !
 WRITE """01""",  ": ", $GET(^||TEST("01"),NF), !
 WRITE 1,  ": ", $GET(^||TEST(1),NF), !, !
 SET SUBS=$ORDER(^||TEST(""))
 WRITE "Subscript Order:", !
 WHILE (SUBS '= "") {
     WRITE SUBS, !
     SET SUBS=$ORDER(^||TEST(SUBS))
     }

数値を含む演算

1 + 2 * $DOUBLE(4.0)

バージョン 2008.2 で導入された変更のまとめ

Caché 2008.2 以降の数値処理の主要な変更点は、以下のとおりです。

1. $DOUBLE 値を 10 進数文字列に変換した場合、有効桁が 20 桁まで表現されるようになりました。以前のリリースでは、変換により 15 桁まで生成されました。

2. $DOUBLE 値を含む計算エラーでは、既定で Caché エラー (<MAXNUMBER>、<DIVIDE>、<VALUE>) が発生します。IEEE 無限大または非数値にはなりません。これは、個別プロセスの場合は %SYSTEM.ProcessOpens in a new tab クラスの IEEEError()Opens in a new tab メソッド、システム全般の場合は Config.MiscellaneousOpens in a new tab クラスの IEEEError()Opens in a new tab メソッドを介して変更できます。

3. Caché の 10 進数の範囲外の数値リテラル値は、$DOUBLE に自動的に変換されます。これは、リテラルの場合にのみ当てはまります。計算結果には反映されません。

値の正確な表現

各数値形式には、保持できる有効桁数の限度があります。普通は、この限度よりも桁数が多ければ、自動的に精度が落ちると考えがちです。しかし、一般的にはこれは正しくありません。

この影響は、Caché の 10 進数値に最もよく見られます。単純に、値 9,223,372,036,854,775,807 が正確に表現できる最大の数値であると考えがちですが、その考えでは指数が無視されています。9,223,372,036,854,775,807,000,000 は、百万倍大きいですがこれも正確に表現できることは明らかです。値が許可された範囲内にある、指数が 0 の他のすべての数値について、同じことが当てはまります。しかし、これは、10 進数の全範囲内で取り得るすべての数値ではありません。

この表現では、10 の累乗の代わりに 2 の累乗を数値に掛けること以外、状況は似ています。以下の特徴がある非常に単純なモデルを考えれば、この状況を図で示すことができます。

• 常に正の数を扱うので、符号ビットは必要がない。

• 3 ビットの非正規化された仮数 (値の範囲は 0 ～ 7) を使用する。

• バイアスがない符号付の 3 ビットの指数 (値の範囲は -4 ～ +3) を使用する。

以下の表は、表現可能な値を示します。

以下の点に注意してください。

• このモデルでは、仮数には 3 ビットしか使用しないので、1 桁の 10 進数には十分な精度がありません。9 という数値がありません。これを表現するには、仮数として 1001 が必要となり、これは明らかに長すぎるからです。

• これらのバイナリ数値をすべて完全に正確な 10 進数文字列と正確に対照させるには、表現で有効な 4 桁の 10 進数を使用する必要があります。

• 0 ～ 56 の範囲の数値には表現できないものがあります。一例として 2.75 という値が挙げられます。 段階的に仮数を整数に変換すると、結果として 5.5、次に 11 という値が得られる一方で、これに対応して、指数が -1、次に -2 となります。しかし 11 は 3 ビットでは表現できない値なので、上記の表内にはありません。

以下の図では、この形式で表現できる値が、数直線上においてどのように分布しているかを示しています。図示するために、刻み幅を、最小の表現可能な値である 0.0625 (つまり 1/16) としています。数直線は、各直線が 4 単位分の長さ (つまり 64 刻み) となるように、折り返されています。X は、この形式で表現できる数値を示しています。配置可能な 56*16=896 個の位置のうち、正確に表現できるのは 64 個 (平均では 14 個中 1 個) のみです。

   +0              +1              +2              +3
    |               |               |               |
 0  XXXXXXXXX.X.X.X.X...X...X...X...X.......X.......X.......X.......
 4  X...............X...............X...............X...............
 8  X..............._...............X..............._...............
12  X..............._...............X..............._...............
16  X..............._..............._..............._...............
20  X..............._..............._..............._...............
24  X..............._..............._..............._...............
28  X..............._..............._..............._...............
32  X..............._..............._..............._...............
36  _..............._..............._..............._...............
40  X..............._..............._..............._...............
44  _..............._..............._..............._...............
48  X..............._..............._..............._...............
52  _..............._..............._..............._...............
56  X..............._..............._..............._...............

同様な状況が、Caché の 10 進数値にも当てはまります。正確に表現できる (指数が 0 の) 最大の整数は、9,223,372,036,854,775,807 です。説明の都合上、この値を MAX と呼びます。この結果、MAX*10 および (MAX-3)*100 も正確に表現できることになります。これらの指数は 0 ではありませんが、仮数は正確です。ただし、MAX+1 などのように正確に表現できない値もあります。

$DOUBLE 値でも、指数が Caché の場合のように 10 ではなく 2 の累乗である場合を除き、この現象が発生します。

関連項目

詳細は、以下のソースを参照してください。

• IEEE-754–1985Opens in a new tab 標準。この標準の正式名は、“IEEE Standard for Binary Floating-Point Arithmetic” です。米国では、この仕様は ANSI/IEEE Std 754-1985 と表記されます。

  これは国際標準でもあります。国際的には、IEC 60559:1989 “Binary floating-point arithmetic for microprocessor systems” と呼ばれています。

• Computing Surveys の David Goldberg 氏著による “What Every Computer Scientist Should Know About Floating-Point ArithmeticOpens in a new tab” (1991 年 3 月発行)。