メインコンテンツまでスキップ
Waters Japan

Empower でカスタムフィールドの異なる四捨五入ができるのはなぜですか? - WKB191261

Article number: 191261To English version

環境

  • Empower
  • Oracle
  • Microsoft Windows

回答

値の違いは、Microsoft と Oracle の倍精度浮動小数点の定義方法の違いに関係しています。結果が保存される前に計算されると、数値の形式は Microsoft のオペレーティングシステムの規則によって管理されます。保存後、結果の数値形式は Oracle 規則によって管理されます。

例:

カスタムフィールド CM001 の計算式 = SST3.1(面積/高さ)。

PQ Unk 1 サンプルのみに SST3 のラベルが付いています。これは、他のすべてのサンプルでは、CM001 の計算が常に PQ Unk 1 サンプルの面積/高さを参照することを意味します。そのため、CM001 ではすべてのサンプルが同じ値であることが予想されますが、そうではありません。

この例では、PQ Unk 1 の CM001 は PQ Unk1 の解析中に決定されるため、決定されたが Oracle データベースに保存されていない面積/高さの値に基づいて計算されます。そのため、これらの値は Microsoft 規則によって管理されます。

PQ Unk 1 の解析後、結果と値は Oracle データベースに保存され、Oracle 規則によって管理されます。これらの値は後続のサンプルで使用されます。

他のサンプルの結果を解析するとき、Oracle データベースに保存されている PQ Unk 1 からの面積と高さが取得され、CM001 が決定されます。

そのため、最初に解析された結果では、CM001 値は他の結果の CM001 値と比較して、小数点以下 n 桁がわずかに異なる可能性があります。

他のすべての解析されたサンプルと比較して、PQ Unk 1 のアセトンとアセトフェノンの値が小数点以下 14 桁で異なります。

clipboard_ea5f49c3677a5b191e713df6ebdfabdd4.png

追加情報

TECN1851937 も参照してください。

id191261, EMP2LIC, EMP2OPT, EMP2SW, EMP3GC, EMP3LIC, EMP3OPT, EMP3SW, EMPGC, EMPGPC, EMPLIC, EMPOWER2, EMPOWER3, EMPSW, SUP, エンタープライズ

  • この記事は役に立ちましたか?