2009-07-01から1日間の記事一覧

倍精度浮動小数点数演算

GTX295など、GTX200シリーズではGPUカーネル上で倍精度の演算を行うことが出来ます。単精度による丸め誤差の影響が少なくなる分、計算速度がある程度遅くなるとのことなので試してみました。 以前CUDAのサンプルプログラムを参考(というかほぼ丸写し)にして…