« EmotionEngineを拝む | メイン | スキャン天国 »
2006年03月02日
必要な演算精度
面白いことを考える人がいるものだ、と感心する。
演算精度は、不必要に高い場合が多い。多くの場合、小数点ン桁で切り捨てるのに、実数演算だと20桁ぐらいの有効桁数がある。
昔、アナログの回路で、演算精度は低いんだけど、用途によってはいいじゃん、回路規模も消費電力も小さいし、というようなことを考えたことがって、そういう道をライフワークにしようと決心したんだけど、ディジタルでも、案外イケるのかもしれない。
要は、反復を使って、反復回数を多くするほど精度が高くアルゴリズムであれば、必要回数だけ繰り返せばよい、ということだ。
なかなか面白い。
投稿者 akita : 2006年03月02日 18:39
トラックバック
このエントリーのトラックバックURL:
http://akita11.jp/mt/mt-tb.cgi/517