メインコンテンツまでスキップ
Waters Japan

Empower で有効桁数の四捨五入に使用されるルールは何ですか? - WKB2758

Article number: 2758To English version

環境

  • Empower

回答

四捨五入が必要な場合、Empower ソフトウェアでは、四捨五入されていない数値の指定された桁数の小数位の右の桁が評価されます。

  • この桁が 5 未満の場合、その桁およびそれ以下の桁はすべて削除され、その前の桁は変更されません。
  • この桁が 5 以上の場合、その桁およびそれ以下の桁はすべて削除され、その前の桁は 1 だけ増加されます。

例えば、指定された桁数が 4 である場合、7.2525515 は 7.2526 に切り上げられ、7.2525415 は 7.2525 に切り下げられます。

Empower は C++ の printf 機能を使用して四捨五入を行います。

参考までに USP の四捨五入ルールは次のとおりです。

四捨五入が必要な場合は、範囲表示の最後の位置の右の小数位 1 桁のみを評価します。この桁が 5 未満の場合、その桁は削除され、その前の桁は変更されません。この桁が 5 以上の場合、その桁は削除され、前の桁が 1 増加されます。

  • この記事は役に立ちましたか?