メインコンテンツまでスキップ
Waters Japan

Excel を使用して Empower の計算を確認すると、小さな相違があるのはなぜですか? - WKB25086

Article number: 25086To English version

環境

  • Empower 3

回答

Empower では、小数点以下 14 桁までを表示または報告できますが、実際の数の内部計算では小数点以下 14 桁に限定されず、Excel よりも精確です。

同じ数式に対する Empower 値を Excel 値と比較して、特に小数点以下 13 桁および 14 桁あたりで異なる数字が表示されることは、異常ではありません。

追加情報

  • Excel を使用して計算を検証しようとするときは、最大精度を示すために計算で使用される Empower のフィールドの精度を変更して、それらの値を Excel で使用します。
  • 反復計算または複雑な式の最終値では、使用される計算の数が原因で、Empower と Excel の差がより大きいことがあります。
  • 複雑な計算の個々の分離された部分と最終的な式に対して、Empower でカスタムフィールドを作成できます。その場合、「ROUND」(丸め)機能が使用されて、個々の分離された計算が、Excel で使用されるのと同じ小数点以下桁数に制限されます。この方法を使用して、数値をより高い信頼度で比較できます。

id25086, EMP2LIC, EMP2OPT, EMP2SW, EMP3GC, EMP3LIC, EMP3OPT, EMP3SW, EMPGC, EMPGPC, EMPLIC, EMPOWER2, EMPOWER3, EMPSW, SUP, エクセル