FAQ
ラスタ演算で正しい結果が出力されない (小数点以下が丸められ整数値になる)
ナレッジ番号:2771 | 登録日:2023/05/29 | 更新日:2024/11/21
概要
ラスタ演算を行うと、ほとんど (またはすべて)で 同じセル値を持つ結果が出力される場合があります。
原因
Python のルールとして、整数のみを使用した演算式を入力すると小数点以下の値が丸められてしまい、整数でのみ結果が返されてしまいます。
回避策
演算式に少数点を含む値を入力することで、小数点以下の値が丸められずに計算できるようになります。
例: 「"raster" / 2」 → 「"raster" / 2.0」
「2.5 * ("raster" / 2)」 → 「2.5 * ("raster" / 2.0)」
※括弧()内の式も小数点を含む値を入力する必要があります。
メタデータ
機能
種類
製品
バージョン