2010年08月08日 小数の計算
_ AVRの浮動小数点
AVRで電圧を読んで、それを計算していたが、その時に浮動小数点を使ってみた。普通にコンパイルは通るのだが、いざAVRに書き込もうとすると、エラーが出る。いろいろと調べてみると、AVRの浮動小数点は、サイズも大きくなるし速度も遅くて、あまり良くないので、固定小数点を使うべきらしい。固定小数点というと難しそうだが、要するに何倍かして、基本的には整数で計算するということだろう。エラーの原因が分かって納得がいった。
|
セットアップ日記 |
AVRで電圧を読んで、それを計算していたが、その時に浮動小数点を使ってみた。普通にコンパイルは通るのだが、いざAVRに書き込もうとすると、エラーが出る。いろいろと調べてみると、AVRの浮動小数点は、サイズも大きくなるし速度も遅くて、あまり良くないので、固定小数点を使うべきらしい。固定小数点というと難しそうだが、要するに何倍かして、基本的には整数で計算するということだろう。エラーの原因が分かって納得がいった。