一起来学OpenMP（3）——for循环并行化基本用法

一、引言

在“一起来学OpenMP（1）——初体验”中给出了一个for循环并行化的例子，这里做进一步的分析，但本节仅描述for循环并行化的基本用法（即#pragma omp parallel for预处理器指示符），该用法需要满足数据不相关性。



二、数据相关性

在循环并行化时，由于多个线程同时执行循环，迭代的顺序是不确定的。如果是数据不相关的，则可以采用基本的#pragma omp parallel for预处理器指示符。

如果语句S2与语句S1相关，那么必然存在以下两种情况之一：

1. 语句S1在一次迭代中访问存储单元L，而S2在随后的一次迭代中访问统一存储单元，称之为循环迭代相关（Loop-Carried Dependence）；

2. S1和S2在同一循环迭代中访问统一存储单元L，但S1的执行在S2之前，称之为非循环迭代相关（Loop-Independent Dependence）。



三、for循环并行化的几种声明形式

#include <iostream>
#include <omp.h> // OpenMP编程需要包含的头文件

int main()
{
//for循环并行化声明形式1
#pragma omp parallel 
    {
#pragma omp for 
        for (int i = 0; i < 10; ++i)
        {
            std::cout << i << std::endl;
        }
    }

//for循环并行化声明形式2
#pragma omp parallel for
    for (int j = 0; j < 10; ++j)
    {
        std::cout << j << std::endl;
    }
    return 0;
}

上边代码的两种声明形式是一样的，很显然第二种声明形式更为简洁紧凑。

但是第一种声明形式有一个好处，即可以在并行区域内、for循环以外写其他并行代码。

例如：

#include <iostream>
#include <omp.h> // OpenMP编程需要包含的头文件

int main()
{
//for循环并行化声明形式1
#pragma omp parallel 
    {
        std::cout << "OK" << std::endl;
#pragma omp for 
        for (int i = 0; i < 10; ++i)
        {
            std::cout << i << std::endl;
        }
    }

//for循环并行化声明形式2
#pragma omp parallel for
    /*std::cout << "ERROR" << std::endl;*/
    for (int j = 0; j < 10; ++j)
    {
        std::cout << j << std::endl;
    }
    return 0;
}

四、for循环并行化的约束条件

尽管OpenMP可以方便地对for循环进行并行化，但并不是所有的for循环都可以进行并行化。以下几种情况不能进行并行化：

1. for循环中的循环变量必须是有符号整形。例如，for (unsigned int i = 0; i < 10; ++i){}会编译不通过；

2. for循环中比较操作符必须是<, <=, >, >=。例如for (int i = 0; i ！= 10; ++i){}会编译不通过；

3. for循环中的第三个表达式，必须是整数的加减，并且加减的值必须是一个循环不变量。例如for (int i = 0; i != 10; i = i + 1){}会编译不通过；感觉只能++i; i++; --i; 或i--；

4. 如果for循环中的比较操作为<或<=，那么循环变量只能增加；反之亦然。例如for (int i = 0; i != 10; --i)会编译不通过；

5. 循环必须是单入口、单出口，也就是说循环内部不允许能够达到循环以外的跳转语句，exit除外。异常的处理也必须在循环体内处理。例如：若循环体内的break或goto会跳转到循环体外，那么会编译不通过。



五、基本for循环并行化举例

#include <iostream>
#include <omp.h> // OpenMP编程需要包含的头文件

int main()
{
    int a[10] = {1};
    int b[10] = {2};
    int c[10] = {0};

#pragma omp parallel 
    {
#pragma omp for 
        for (int i = 0; i < 10; ++i)
        {
            // c[i]只跟a[i]和b[i]有关
            c[i] = a[i] + b[i];
        }
    }

    return 0;
}

六、嵌套for循环

#include <iostream>
#include <omp.h> // OpenMP编程需要包含的头文件

int main()
{
    int a[10][5] = {1};
    int b[10][5] = {2};
    int c[10][5] = {0};

#pragma omp parallel 
    {
#pragma omp for 
        for (int i = 0; i < 10; ++i)
        {
            for (int j = 0; j < 5; ++j)
            {
                // c[i][j]只跟a[i][j]和b[i][j]有关
                c[i][j] = a[i][j] + b[i][j];
            }
        }
    }

    return 0;
}

编译器会让第一个cpu完成：

for (int i = 0; i < 5; ++i)
{
    for (int j = 0; j < 5; ++j)
    {
        // c[i][j]只跟a[i][j]和b[i][j]有关
                c[i][j] = a[i][j] + b[i][j];
    }
}

会让第二个cpu完成：

for (int i = 5; i < 10; ++i)
{
    for (int j = 0; j < 5; ++j)
    {
        // c[i][j]只跟a[i][j]和b[i][j]有关
                c[i][j] = a[i][j] + b[i][j];
    }
}

七、小节

本节首先给出了数据相关的概念，然后对基本for循环并行化方法进行了描述，并指出了#pragma omp parallel for预处理指示符不能应用的场合。后续讲述数据竞争时再对其他种类的for循环并行化进行描述。