メインコンテンツまでスキップ
Waters Japan

FR2 と FR5 で同じデータを表示しているとき、Empower では小数点以下 14 桁が 1 増加する - WKB93124

Article number: 93124To English version

症状

  • Empower でデータをレビューすると、小数点以下 14 桁(15 番目の有効数字)が 1 増加する
  • Empower 3 FR2 と FR5 で同じデータを表示している

環境

  • Empower 3 Feature Release 5

原因

これは、ソフトウェアコンパイラーによる FR5 の表示機能です。追加情報については、以下を参照してください。

解決策

なし

追加情報

EMP 3 FR5 のリリースノート PDF の 17 ページにある、「数値の差」下の INFEMP-6691 を参照してください

以下にもこの情報を添付しています。

「Empower 3 Feature Release 5 ソフトウェアを使用すると、一部の数字が、以前のバージョンの Empower とは異なって表示されることがあります。これらの数値表示の変更は、値が計算された Empower のバージョンに関係なく、Empower 3 Feature Release 5 に表示されることがあります。軽微な差は、Empower 3 Feature Release 5 で用いられているソフトウェアコンパイラーによるものです。

Empower 3 Feature Release 5 ソフトウェアは、Microsoft の最新の開発ツールスイート内の更新されたコンパイラーを使用してコンパイルされています。更新されたコンパイラーは、浮動小数点表示をフォーマットし、以前のコンパイラーよりも精度が高いです。更新されたコンパイラーは、Empower 3 Feature Release 5 ソフトウェアが浮動小数点表示をフォーマットする方法のみに影響します。数値の計算には影響しません。さらに、Empower 3 Feature Release 5 では、浮動小数点数が指数表記で、2 桁ではなく 3 桁の指数部で表示されます。

Empower 3 Feature Release 5 をテストしたところ、数千のテストされた数値のうち、以前のバージョンの Empower と異なるのは 4 つのみでした。4 つの差はすべて、15 番目の有効数字で発生しました。これら 4 つの数字それぞれについて、最後に表示された桁が、1 に切り上げまたは切り下げられました。この情報は INFEMP-6691 について説明します。」

注:コンパイラーのバージョンは、Empower でのさまざまなデータ形式と文字列表示の間で、データが管理される方法に影響します。以前のバージョンでは、四捨五入も文字列に変換する前にコンパイラーによって実行されていました。この四捨五入は FR5 では発生しません。

id93124, EMP2LIC, EMP2OPT, EMP2SW, EMP3GC, EMP3LIC, EMP3OPT, EMP3SW, EMPGC, EMPGPC, EMPLIC, EMPOWER2, EMPOWER3, EMPSW, SUP