Q:WinActorの計算処理における、小数値や大きい桁数の数値の誤差の取り扱いについて教えてください。
整数か小数か、また整数の場合は概ね19桁を超えるか否かで異なります。
本記事では、WinActorの計算処理における有効数字の取り扱いについて説明いたします。
整数か小数か、また整数の場合は概ね19桁を超えるか否かで異なります。
本記事では、WinActorの計算処理における有効数字の取り扱いについて説明いたします。
続きは会員限定です。無料会員に登録すると続きをお読みいただけます。