Empower でカスタムフィールドの異なる四捨五入ができるのはなぜですか? - WKB191261
環境
- Empower
- Oracle
- Microsoft Windows
回答
値の違いは、Microsoft と Oracle の倍精度浮動小数点の定義方法の違いに関係しています。結果が保存される前に計算されると、数値の形式は Microsoft のオペレーティングシステムの規則によって管理されます。保存後、結果の数値形式は Oracle 規則によって管理されます。
例:
カスタムフィールド CM001 の計算式 = SST3.1(面積/高さ)。
PQ Unk 1 サンプルのみに SST3 のラベルが付いています。これは、他のすべてのサンプルでは、CM001 の計算が常に PQ Unk 1 サンプルの面積/高さを参照することを意味します。そのため、CM001 ではすべてのサンプルが同じ値であることが予想されますが、そうではありません。
この例では、PQ Unk 1 の CM001 は PQ Unk1 の解析中に決定されるため、決定されたが Oracle データベースに保存されていない面積/高さの値に基づいて計算されます。そのため、これらの値は Microsoft 規則によって管理されます。
PQ Unk 1 の解析後、結果と値は Oracle データベースに保存され、Oracle 規則によって管理されます。これらの値は後続のサンプルで使用されます。
他のサンプルの結果を解析するとき、Oracle データベースに保存されている PQ Unk 1 からの面積と高さが取得され、CM001 が決定されます。
そのため、最初に解析された結果では、CM001 値は他の結果の CM001 値と比較して、小数点以下 n 桁がわずかに異なる可能性があります。
他のすべての解析されたサンプルと比較して、PQ Unk 1 のアセトンとアセトフェノンの値が小数点以下 14 桁で異なります。
追加情報
TECN1851937 も参照してください。
- https://www.exploringbinary.com/floating-point-converter/
- https://www.rapidtables.com/convert/number/binary-to-decimal.html
id191261, EMP2LIC, EMP2OPT, EMP2SW, EMP3GC, EMP3LIC, EMP3OPT, EMP3SW, EMPGC, EMPGPC, EMPLIC, EMPOWER2, EMPOWER3, EMPSW, SUP, エンタープライズ