2010年
8月
1 2 3 4 5 6 7
8 9 10 11 12 13 14
15 16 17 18 19 20 21
22 23 24 25 26 27 28
29 30 31

セットアップ日記


2010年08月08日 小数の計算

_ AVRの浮動小数点

AVRで電圧を読んで、それを計算していたが、その時に浮動小数点を使ってみた。普通にコンパイルは通るのだが、いざAVRに書き込もうとすると、エラーが出る。いろいろと調べてみると、AVRの浮動小数点は、サイズも大きくなるし速度も遅くて、あまり良くないので、固定小数点を使うべきらしい。固定小数点というと難しそうだが、要するに何倍かして、基本的には整数で計算するということだろう。エラーの原因が分かって納得がいった。

[]