質問
Mapperのロジックアイコンで、数値⇒演算の処理アイコン（足し算、引き算、掛け算、割り算、余り）に「丸め処理」項目があり、選択できる８つの処理が有ります。
それぞれどの様な処理結果となるのでしょうか。
回答
■仕様説明
ここで選択できる8つの「丸め処理」の仕様は、javaで実装されている丸め動作と同一となります。
以下に具体例を記載します。
以下に具体例を記載します。
1. 0に近づくように丸める
破棄される小数部に先行する桁を増分しません。
例）
5.5 → 5
2.5 → 2
-1.1 → -1
-1.6 → -1
-2.5 → -2
2. 0から離れるように丸める
2. 0から離れるように丸める
破棄される 0 以外の小数部に先行する桁を常に増やします。
例）
5.5 → 6
2.5 → 3
-1.1 → -2
-1.6 → -2
-2.5 → -3
3. 正の無限大に近づくように丸める
- 正の数の場合
「0から離れるように丸める」と同様の動作になります。
- 負の数の場合
「0に近づくように丸める」と同様の動作になります。
例）
5.5 → 6
2.5 → 3
-1.1 → -1
-1.6 → -1
-2.5 → -2
4. 負の無限大に近づくように丸める
- 正の数の場合
「0に近づくように丸める」と同様の動作になります。
- 負の数の場合
「0から離れるように丸める」と同様の動作になります。
例）
5.5 → 5
2.5 → 2
-1.1 → -2
-1.6 → -2
-2.5 → -3
5. 最も近い数字に丸める（等距離の場合は切り上げ)
端数がちょうど0.5だった場合、切り上げます。
例）
5.5 → 6
2.5 → 3
-1.1 → -1
-1.6 → -2
-2.5 → -3
6. 最も近い数字に丸める（切り捨て)
端数がちょうど0.5だった場合、切り捨てます。
例）
5.5 → 5
2.5 → 2
-1.1 → -1
-1.6 → -2
-2.5 → -2
7. 最も近い数字に丸める（偶数側）
端数がちょうど0.5だった場合、切り捨てと切り上げのうち結果が偶数となる方へ丸める方法になります。
例）
5.5 → 6
2.5 → 2
-1.1 → -1
-1.6 → -2
-2.5 → -2
8. 丸めの必要なし
丸めが必要でないことを表すモードです。
結果が正確でない演算で指定された場合、エラーを返します。
結果が正確でない演算で指定された場合、エラーを返します。
例）
5.5 → エラー
2.5 → エラー
1.0 → 1
-1.0 → -1
-2.5 → エラー
コメント
0件のコメント
記事コメントは受け付けていません。