GPU并行编程方法


转载自：http://blog.sina.com.cn/s/blog_a43b3cf2010157ph.html

编写利用GPU加速的并行程序有多种方法，归纳起来有三种：

1. 利用现有的GPU函数库。
Nvidia
的CUDA工具箱中提高了免费的GPU加速的快速傅里叶变换（FFT）、基本线性代数子程序（BLAST）、图像与视频处理库（NPP）。用户只要把源代码中CPU版本的快速傅里叶变换、快速傅里叶变换和图像与视频处理库替换成相应的GPU版，即可得到性能加速。除了Nvidia提供的函数库以外，第三方的GPU函数库有：

CUDA数据并行基元库（cuDPP）
CULA工具：由EM Photonics公司推出，
CUDA GPU中的LAPACK
MAGMA：由Dongarra’s Group推出，CUDA
GPU和多核CPU中的LAPACK
雅可比预处理共轭梯度（JCG）
GPULib：针对接口描述语言（IDL）以及矩阵实验室（MATLAB）的数学函数库
GPU VSIPL信号处理库
计算机视觉（CV）以及成像库
OpenCurrent:规则网格系统中CUDA加速PDE(partial
differential equation，偏微分方程)开源数据库解决方案
CUDA / GPU中的libSVM

Multisvm：利用CUDA的多等级SVM
cuSVM：支持矢量分类与衰减的CUDA使用方法

2. CUDA
编程。
这是最普遍、最适用的方法，使用CUDA可以最大限度地发挥GPU的加速性能。
3. 指令（Directive）编程。
基于的OpenACC标准，GPU Directive编程是加快科学或工业的代码容易的、行之有效的方法。使用GPU指令，简单地在你的源码中插入编译指令，编译器会自动把计算密集型代码部分映射到到GPU的中去计算，从而加速你的代码。下面是一个简单的用一条指令如何可以加快计算圆周率的例子。使用GPU指令，你可以很快上手，并在当天看到的结果。



OpenACC编程的优点：
l 简单：只要在你的代码中插入编译提示
l 开放：单个代码库既可以在CPU又可以在GPU上运行
l 功能强大：只需几小时就可以发挥GPU的强大

并行计算工具的领导者PGI、CAPS和Cray将率先支持OpenACC。