mieki256's diary



2008/03/05(水) [n年前の日記]

#3 [iappli] 自前のsin,cos,atan2を検証中

sin,cosに関しては、プロトタイプ版のソレとは違うテーブルを作り直してみたり。どうせshort配列で持ってるんだから、1.0=4096とかで持っちゃったほうが、精度は少し良くなるんじゃないかなと。

atan2()については、 _sin()とcos()で2分探索していくらしい ものと、 _テーブルで求めてしまう ものを、Javaの関数?としてある atan2() の結果と比較してみたり。…どれもそれほど結果に違いはないような。微妙に違う値が返ってくるけど、めちゃくちゃ違う値でもなく。ただ、処理速度に関してはかなり違いがあった。 _System.nanoTime を使用して計ってみたところ、テーブル参照のものが圧倒的に速かった。

それはともかく、アークタンジェントのテーブルってどうやって作ればいいんだらう。

以上です。

過去ログ表示

Prev - 2008/03 - Next
1
2 3 4 5 6 7 8
9 10 11 12 13 14 15
16 17 18 19 20 21 22
23 24 25 26 27 28 29
30 31

カテゴリで表示

検索機能は Namazu for hns で提供されています。(詳細指定/ヘルプ


注意: 現在使用の日記自動生成システムは Version 2.19.6 です。
公開されている日記自動生成システムは Version 2.19.5 です。

Powered by hns-2.19.6, HyperNikkiSystem Project