Empower でカスタムフィールドの異なる四捨五入ができるのはなぜですか？ - WKB191261

環境

• Empower
• Oracle
• Microsoft Windows

回答

値の違いは、Microsoft と Oracle の倍精度浮動小数点の定義方法の違いに関係しています。結果が保存される前に計算されると、数値の形式は Microsoft のオペレーティングシステムの規則によって管理されます。保存後、結果の数値形式は Oracle 規則によって管理されます。

例：

カスタムフィールド CM001 の計算式 = SST3.1（面積/高さ）。

PQ Unk 1 サンプルのみに SST3 のラベルが付いています。これは、他のすべてのサンプルでは、CM001 の計算が常に PQ Unk 1 サンプルの面積/高さを参照することを意味します。そのため、CM001 ではすべてのサンプルが同じ値であることが予想されますが、そうではありません。

この例では、PQ Unk 1 の CM001 は PQ Unk1 の解析中に決定されるため、決定されたが Oracle データベースに保存されていない面積/高さの値に基づいて計算されます。そのため、これらの値は Microsoft 規則によって管理されます。

PQ Unk 1 の解析後、結果と値は Oracle データベースに保存され、Oracle 規則によって管理されます。これらの値は後続のサンプルで使用されます。

他のサンプルの結果を解析するとき、Oracle データベースに保存されている PQ Unk 1 からの面積と高さが取得され、CM001 が決定されます。

そのため、最初に解析された結果では、CM001 値は他の結果の CM001 値と比較して、小数点以下 n 桁がわずかに異なる可能性があります。

他のすべての解析されたサンプルと比較して、PQ Unk 1 のアセトンとアセトフェノンの値が小数点以下 14 桁で異なります。

追加情報

TECN1851937 も参照してください。

• https://www.exploringbinary.com/floating-point-converter/
• https://www.rapidtables.com/convert/number/binary-to-decimal.html