メインコンテンツまでスキップ
Waters Employee Login
Waters Japan

Empower で四捨五入された値に違いがあるのはなぜですか？ - WKB93357

  1. 最後の更新
  2. PDFとして保存
Article number: 93357To English version

環境

  • Empower
  • ［レビュー］画面
  • バックグランド解析
  • Oracle
  • Windows OS

回答

特定の状況では、［レビュー］画面に表示される一部のフィールドの結果は、保存前と保存後の同じフィールドおよび結果がわずかに異なることがあります。これは、結果が保存される前に Microsoft オペレーティングシステムの規則によって管理されているためです。保存後、これらは Oracle 規則によって管理されます。

  • Microsoft は、電気電子学会 (IEEE) の浮動小数点形式を使用します。
  • Oracle は、2 進化 10 進コード (BCD) 形式を使用します。
  • これは、数値の表示と四捨五入に直接影響します。下記の他の KCS 記事およびテクニカルノート TECN1851937 を参照してください。
  • 保存した結果を［レビュー］で再度開くか、［プレビュー/パブリッシャー］で開くと、保存されているフィールド値が表示されます。
  • ［レビュー］で波形解析機能および定量機能を使用すると、IEEE 規則によって管理される値が表示されます。そのため、異なる場合があります。