top of page

Accessあるある

  • beginners53
  • 2021年7月2日
  • 読了時間: 1分

昔からよく言われているのですが、項目や変数のタイプを倍精度浮動小数点にすると、勝手に誤差が生じるという現象が起こります。

例えば、下の図のように「9.7」と入力したのに「9.69」になってしまうとか・・・。

酷いものでは「普通に整数で”2”って入れたのに”1.9999・・・”ってなってる!!」って事も・・・しかも画面表示を整数にしていると少数以下が四捨五入されて表示されるので計算結果を見るまで気づかないとか(ーー;;

これって、Accessに限らず、Visual Basicなどの言語を使っても発生しているのでたぶん、Microsoftが作成するOS上で動作するアプリケーション全般に発生するバグなんだと思いますが、一向に修正される気配がない。

これを回避するためには、変数や項目のタイプを数値型ではなく通貨型に設定するしかないようです。

ただ困ったことに、通貨型では小数点以下の桁数は4桁までという制限があるのでより精度の高い計算結果を求めたい算術計算や技術計算などには使えないという面はあります。

この場合は、倍精度浮動小数点を使用するしかないのですが、誤差があっては使い物にならない・・・堂々巡りになってしまいそうです(^^;;


 
 
 

最新記事

すべて表示
近頃のMicrosoftはなんか変

最近見つけた記事 「Office遅すぎ問題」でMicrosoftはPC起動時にこっそりOfficeを読み込むようにしている - GIGAZINE どうやらOfficeアプリの起動速度が速くなったように見せかけるための処置を行うという事らしいんですが、それに伴ってWindow...

 
 
 

Comments


bottom of page