新規投稿
フォローする

計算フィールドでの関数を用いた計算値のズレ

【やりたい事】

計算フィールドの計算結果を正しく表示させたい。

 

【現状】

計算結果が正しく表示されず、原因もわかりません。

計算フィールドにて、下記の計算式を入れて使用しています(添付画像)。小数点以下の表示桁数は設定していません。

▶ROUNDDOWN(X*0.3025,2)

X=面積

 

小数点第3位以下は切捨てにしたいのですが、X=117.19の時は切り上がってしまいます。

(本来は33.44になるところ、計算結果は33.45になる)

 

X=他の数字の時は今のところ希望通り切捨てになります。

 

試しにExcelで同様の計算式で試したところ、X=117.19で計算結果は33.44となりました。

高度な設定の桁数設定の部分(設定内容は画像のもの)は添付画像の通りです。

 

どなたか知恵をお貸しください。

0

2件のコメント

Avatar
ひよこ

tai さん

「アプリの高度な設定」の「数値と計算の精度」で「小数部の桁数」を 5よりも大きくすれば良いかと思います。


小数部の桁数が 4だと計算式フィールドに「X*0.3025」を設定したところ、結果が「35.45」になっていました。
そもそも 117.19*0.3025 = 35.449975 なので、7が四捨五入されてしまう)
おそらくこの値が ROUNDOWN 関数に渡されるので、ROUNDOWNの計算結果も、「35.45」になるんだと思います。

補足:

ヘルプ https://jp.cybozu.help/k/ja/user/app_settings/form/autocalc/rounding.html の補足にあるように、
「高度な設定」のほうがまずは優先されるようです。

ROUND関数や「小数点以下の表示桁数」の設定よりも、「高度な設定」の内容が優先されます。
ROUND関数や「小数点以下の表示桁数」を設定しても数値や計算が正しくないときは、「高度な設定」の「小数部の桁数」や「丸めかた」の設定を確認してください。

ひよこにより編集されました
1
Avatar
tai

ひよこさん

 

アドバイスをいただきありがとうございます!

高度な設定の少数部の桁数設定を5以上に設定したら、希望通りの計算結果で表示することができました。

 

本当にありがとうございます!

0
サインインしてコメントを残してください。