• beginners53

Accessあるある

昔からよく言われているのですが、項目や変数のタイプを倍精度浮動小数点にすると、勝手に誤差が生じるという現象が起こります。

例えば、下の図のように「9.7」と入力したのに「9.69」になってしまうとか・・・。

酷いものでは「普通に整数で”2”って入れたのに”1.9999・・・”ってなってる!!」って事も・・・しかも画面表示を整数にしていると少数以下が四捨五入されて表示されるので計算結果を見るまで気づかないとか(ーー;;

これって、Accessに限らず、Visual Basicなどの言語を使っても発生しているのでたぶん、Microsoftが作成するOS上で動作するアプリケーション全般に発生するバグなんだと思いますが、一向に修正される気配がない。

これを回避するためには、変数や項目のタイプを数値型ではなく通貨型に設定するしかないようです。

ただ困ったことに、通貨型では小数点以下の桁数は4桁までという制限があるのでより精度の高い計算結果を求めたい算術計算や技術計算などには使えないという面はあります。

この場合は、倍精度浮動小数点を使用するしかないのですが、誤差があっては使い物にならない・・・堂々巡りになってしまいそうです(^^;;


閲覧数:2回0件のコメント

最新記事

すべて表示

1か月というものは早いもので、気が付いたら明日が5月の第2水曜日(米国時間では第2火曜日)・・・てなわけで、月例のWindows Updateが配信される日です。 私たちサポートする側としては、毎回ヒヤヒヤしながら動向を眺めているのですが、近杯がどのようなアップデートが配信されるのでしょうね。 私自身も先月導入したように、Windows11も少しづつ世の中に出回るようになってきたのですが、このとこ

これまで、Windows10 Homeや、Windows11 Homeでの新規インストールの際にMicrosoftアカウントでのログインを求められていたのですが、どうやらWindows11 Professionalでも今後インストールの際にMicrosoftアカウントでのログインが必須となるといううわさが流れてきました。 これはビジネスユーザーにとってはちょっと困りますよね。 私たちも仕事柄、お客