算法系列1、动态规划
2016-03-15 23:42
507 查看
1基本概念
2基本思想
3适用范围
4求解的基本步骤
5简单动态规划问题
1最大子数组和问题
2背包问题
3矩阵连乘问题
与分治法的区别:
动态规划的子问题是相互关联的。动态规划对每个子问题之求解一遍,并且将其结果保存在表中,从而避免了子问题被重复计算。
而分治算法是将问题划分成相对独立的子问题,递归的解决所有子问题,
然后合并子问题成为最终的结果。在这个过程中,分治法会做很多不必要的工作,即重复地求解公共子问题。
2、该问题必须符合无后效性。即当前状态是历史的完全总结,过程的演变不再受此前各种状态及决策的影响。也就是说,某状态以后的过程不会影响以前的状态,只与当前状态有关。
(1)划分阶段:按照问题的时间或空间特征,把问题分为若干个阶段。在划分阶段时,注意划分后的阶段一定要是有序的或者是可排序的,否则问题就无法求解。
(2)确定状态和状态变量:将问题发展到各个阶段时所处于的各种客观情况用不同的状态表示出来。当然,状态的选择要满足无后效性。
(3)确定决策并写出状态转移方程:因为决策和状态转移有着天然的联系,状态转移就是根据上一阶段的状态和决策来导出本阶段的状态。所以如果确定了决策,状态转移方程也就可写出。但事实上常常是反过来做,根据相邻两个阶段的状态之间的关系来确定决策方法和状态转移方程。
(4)寻找边界条件:给出的状态转移方程是一个递推式,需要一个递推的终止条件或边界条件。
一般,只要解决问题的阶段、状态和状态转移决策确定了,就可以写出状态转移方程(包括边界条件)。
实际应用中可以按以下几个简化的步骤进行设计:
(1)分析最优解的性质,并刻画其结构特征。
(2)递归的定义最优解。
(3)以自底向上或自顶向下的记忆化方式(备忘录法)计算出最优值
(4)根据计算最优值时得到的信息,构造问题的最优解
确定动态规划三要素:
(1)问题的阶段
(2)每个阶段的状态
(3)从前一个阶段转化到后一个阶段之间的递推关系。
一个有N个整数元素的一位数组(A[0], A[1],…,A[n-1], A
),这个数组当然有很多子数组,那么数组之和的最大值是什么呢?
例如有数组 int A[5] = {-1, 2, 3, -4, 2};
符合条件的子数组为 2,3 即答案为 5;
首先我们看看最直接的穷举法
问题分析
可以优化吗?答案是肯定的,可以考虑数组的第一个元素,以及最大的一段数组(A[i], …, A[j]),和A[0]的关系,有一下几种情况:
1. 当0 = i = j 时,元素A[0]本身构成和最大的一段;
2. 当0 = i < j 时,和最大的一段以A[0]开始;
3. 当0 < i 时, 元素A[0]和最大的一段没有关系。
从上面3中情况可以看出。可以将一个大问题(N个元素数组)转化为一个较小的问题(N-1个元素的数组)。假设已经知道(A[1], …,A[n-1])中和最大的一段数组之和为All[1],并且已经知道(A[1],…,A[n-1])中包含A[1]的和最大的一段数组为Start[1]。那么不难看出 (A[0], …, A
)中问题的解All[0] = max{ A[0], A[0] + start[1], All[1] }。通过这样的分析,可以看出这个问题无有效性,可以用动态规划来解决。
解决方案
这题非常有名,只要是计算机专业的应该都有听说过。有N件物品和一个容量为V的背包。第i件物品的体积是c[i],价值是v[i]。求解将哪些物品装入背包可使价值总和最大。
我们把题目具体下,有5个商品,背包的体积为10,他们的体积为c[5] ={3,5,2,7,4}; 价值为 v[5] = {2,4,1,6,5};
问题分析
这是最基础的背包问题,特点是:每种物品仅有一件,可以选择放或不放。可以将背包问题的求解看作是进行一系列的决策过程,即决定哪些物品应该放入背包,哪些不放入背包。
如果一个问题的最优解包含了物品n,即Xn = 1,那么其余X1, X2, …..,Xn-1 一定构成子问题 1,2,…..,n-1在容量C - cn时的最优解。
如果这个最优解不包含物品n,即Xn = 0;那么其余 X1, X2…..Xn-1一定构成了子问题 1,2,….n-1在容量C时的最优解。 //请各位仔细品味这几句话
根据以上分析最优解的结构递归定义问题的最优解 f[i][v] = max{ f[i-1][v] , f[i-1][v - c[i]] + v[i]}
解决方案
背包问题是最基本的动态规划问题,也是最经典,最易懂的。它包含了背包问题中设计状态、方程的最基本思想。
给定n个矩阵{A1,A2,…,An},其中Ai与Ai+1是可乘的,i = 1,2, …n-1。考虑这n个矩阵的乘积。由于竞争乘法满足结合律,故计算矩阵的连乘有许多不同的计算次序。
这种计算次序可以用加括号的方式确定。若一个矩阵连乘的计算次序完全确定,这是就说该连乘已完全加括号。
例如,矩阵连乘A1 * A2 * A3 * A4 可以有5种完全加括号的方式:
(A1 * (A2 * (A3 * A4 ))),
(A1 * ((A2 * A3) * A 4)),
((A1 * A2 )* (A3 * A4)),
(((A1 * A2 )* A3 )* A4)。
每种加括号的方式确定了一个计算的次序。不同的计算次序与矩阵连乘的计算量有密切的关系。
考虑3个矩阵{A1,A2,A3}连乘的例子,假设这3个矩阵的维数分别为 10×100, 100×5, 5×50。若按照((A1*A2)*A3)计算,则计算次数为10×100×5 + 10×5×50 = 7500
若按(A1*(A2*A3))计算,则计算次数为 100×5×50 + 10×100×50 = 75000。第1种方法的计算次数是后者的10倍!由此可以看出,不同的加括号方式确定不同的计算次序对矩阵乘法的运算量影响是巨大的。
矩阵连乘为题定义如下:给定n个矩阵{A1,A2,…,An},矩阵A1的维数为pi-1×pi, i = 1,2, …, n,如何给矩阵连乘A1* A2* …* An完全加上括号使用矩阵乘法中计算次数最少。
问题分析
若用穷举法,能够证明需要指数时间来求解。但是时间代价高昂。现在考虑用动态规划来求解连乘问题。
2基本思想
3适用范围
4求解的基本步骤
5简单动态规划问题
1最大子数组和问题
2背包问题
3矩阵连乘问题
1、基本概念
动态规划过程是:每次决策依赖于当前状态,又随即引起状态的转移。一个决策序列就是在变化的状态中产生出来的,所以,这种多阶段最优化决策解决问题的过程就称为动态规划。2、基本思想
将待求解的问题分解为若干个子问题(阶段),按顺序求解子阶段,前一子问题的解,为后一子问题的求解提供了有用的信息。在求解任一子问题时,列出各种可能的局部解,通过决策保留那些有可能达到最优的局部解,丢弃其他局部解。依次解决各子问题,最后一个子问题就是初始问题的解。与分治法的区别:
动态规划的子问题是相互关联的。动态规划对每个子问题之求解一遍,并且将其结果保存在表中,从而避免了子问题被重复计算。
而分治算法是将问题划分成相对独立的子问题,递归的解决所有子问题,
然后合并子问题成为最终的结果。在这个过程中,分治法会做很多不必要的工作,即重复地求解公共子问题。
3、适用范围
1、动态规划通常情况下应用于最优化问题,这类问题一般有很多个可行的解,每个解有一个值,而我们希望从中找到最优的答案。2、该问题必须符合无后效性。即当前状态是历史的完全总结,过程的演变不再受此前各种状态及决策的影响。也就是说,某状态以后的过程不会影响以前的状态,只与当前状态有关。
4、求解的基本步骤
动态规划所处理的问题是一个多阶段决策问题,一般由初始状态开始,通过对中间阶段决策的选择,达到结束状态。这些决策形成了一个决策序列,同时确定了完成整个过程的一条活动路线(通常是求最优的活动路线)。动态规划的设计都有着一定的模式,一般要经历以下几个步骤。初始状态→│决策1│→│决策2│→…→│决策n│→结束状态
(1)划分阶段:按照问题的时间或空间特征,把问题分为若干个阶段。在划分阶段时,注意划分后的阶段一定要是有序的或者是可排序的,否则问题就无法求解。
(2)确定状态和状态变量:将问题发展到各个阶段时所处于的各种客观情况用不同的状态表示出来。当然,状态的选择要满足无后效性。
(3)确定决策并写出状态转移方程:因为决策和状态转移有着天然的联系,状态转移就是根据上一阶段的状态和决策来导出本阶段的状态。所以如果确定了决策,状态转移方程也就可写出。但事实上常常是反过来做,根据相邻两个阶段的状态之间的关系来确定决策方法和状态转移方程。
(4)寻找边界条件:给出的状态转移方程是一个递推式,需要一个递推的终止条件或边界条件。
一般,只要解决问题的阶段、状态和状态转移决策确定了,就可以写出状态转移方程(包括边界条件)。
实际应用中可以按以下几个简化的步骤进行设计:
(1)分析最优解的性质,并刻画其结构特征。
(2)递归的定义最优解。
(3)以自底向上或自顶向下的记忆化方式(备忘录法)计算出最优值
(4)根据计算最优值时得到的信息,构造问题的最优解
确定动态规划三要素:
(1)问题的阶段
(2)每个阶段的状态
(3)从前一个阶段转化到后一个阶段之间的递推关系。
5、简单动态规划问题
1、最大子数组和问题
题目:一个有N个整数元素的一位数组(A[0], A[1],…,A[n-1], A
),这个数组当然有很多子数组,那么数组之和的最大值是什么呢?
例如有数组 int A[5] = {-1, 2, 3, -4, 2};
符合条件的子数组为 2,3 即答案为 5;
首先我们看看最直接的穷举法
int MaxSubString(int* A, int n) { int max = min; //初始值为负无穷大 int sum; for(int i = 0; i < n; i++) { sum = 0; for(int j = i; j < n; j++) { sum += A[j]; if(sum > max) max = sum; } } return max; } //这种方法最直接,当也是最耗时的,他的时间复杂度为O(n^2);
问题分析
可以优化吗?答案是肯定的,可以考虑数组的第一个元素,以及最大的一段数组(A[i], …, A[j]),和A[0]的关系,有一下几种情况:
1. 当0 = i = j 时,元素A[0]本身构成和最大的一段;
2. 当0 = i < j 时,和最大的一段以A[0]开始;
3. 当0 < i 时, 元素A[0]和最大的一段没有关系。
从上面3中情况可以看出。可以将一个大问题(N个元素数组)转化为一个较小的问题(N-1个元素的数组)。假设已经知道(A[1], …,A[n-1])中和最大的一段数组之和为All[1],并且已经知道(A[1],…,A[n-1])中包含A[1]的和最大的一段数组为Start[1]。那么不难看出 (A[0], …, A
)中问题的解All[0] = max{ A[0], A[0] + start[1], All[1] }。通过这样的分析,可以看出这个问题无有效性,可以用动态规划来解决。
解决方案
int MaxSubString(int* A, int n) { int Start = A[n - 1]; //start包含A[x]的和最大的一段数组为Start[1] int All = A[n - 1]; //All最大的一段数组之和 for(int i = n - 2; i >= 0; i--) //从后向前遍历,反之亦可。 { Start = max( A[i], A[i] + Start); All = max(Start, All); } return All[0]; //All[0] 中存放结果 } //我们通过动规算法解决该问题不仅效率很高(时间复杂度为O(n)),而且极其简便。
2、背包问题
题目这题非常有名,只要是计算机专业的应该都有听说过。有N件物品和一个容量为V的背包。第i件物品的体积是c[i],价值是v[i]。求解将哪些物品装入背包可使价值总和最大。
我们把题目具体下,有5个商品,背包的体积为10,他们的体积为c[5] ={3,5,2,7,4}; 价值为 v[5] = {2,4,1,6,5};
问题分析
这是最基础的背包问题,特点是:每种物品仅有一件,可以选择放或不放。可以将背包问题的求解看作是进行一系列的决策过程,即决定哪些物品应该放入背包,哪些不放入背包。
如果一个问题的最优解包含了物品n,即Xn = 1,那么其余X1, X2, …..,Xn-1 一定构成子问题 1,2,…..,n-1在容量C - cn时的最优解。
如果这个最优解不包含物品n,即Xn = 0;那么其余 X1, X2…..Xn-1一定构成了子问题 1,2,….n-1在容量C时的最优解。 //请各位仔细品味这几句话
根据以上分析最优解的结构递归定义问题的最优解 f[i][v] = max{ f[i-1][v] , f[i-1][v - c[i]] + v[i]}
解决方案
int c[5] = {3,5,2,7,4}; //体积 int v[5] = {2,4,1,6,5}; //价值 int f[6][10] = {0}; // int main() { for(int i = 1; i < 6; i++) for(int j = 1; j < 10 ;j++) { if(c[i] > j)//如果背包的容量,放不下c[i],则不选c[i] f[i][j] = f[i-1][j]; else { f[i][j] = max(f[i-1][j], f[i-1][j - c[i]] + v[i]);//转移方程式 } } std::cout<<f[5][9]; return 0; }
背包问题是最基本的动态规划问题,也是最经典,最易懂的。它包含了背包问题中设计状态、方程的最基本思想。
3、矩阵连乘问题
题目给定n个矩阵{A1,A2,…,An},其中Ai与Ai+1是可乘的,i = 1,2, …n-1。考虑这n个矩阵的乘积。由于竞争乘法满足结合律,故计算矩阵的连乘有许多不同的计算次序。
这种计算次序可以用加括号的方式确定。若一个矩阵连乘的计算次序完全确定,这是就说该连乘已完全加括号。
例如,矩阵连乘A1 * A2 * A3 * A4 可以有5种完全加括号的方式:
(A1 * (A2 * (A3 * A4 ))),
(A1 * ((A2 * A3) * A 4)),
((A1 * A2 )* (A3 * A4)),
(((A1 * A2 )* A3 )* A4)。
每种加括号的方式确定了一个计算的次序。不同的计算次序与矩阵连乘的计算量有密切的关系。
考虑3个矩阵{A1,A2,A3}连乘的例子,假设这3个矩阵的维数分别为 10×100, 100×5, 5×50。若按照((A1*A2)*A3)计算,则计算次数为10×100×5 + 10×5×50 = 7500
若按(A1*(A2*A3))计算,则计算次数为 100×5×50 + 10×100×50 = 75000。第1种方法的计算次数是后者的10倍!由此可以看出,不同的加括号方式确定不同的计算次序对矩阵乘法的运算量影响是巨大的。
矩阵连乘为题定义如下:给定n个矩阵{A1,A2,…,An},矩阵A1的维数为pi-1×pi, i = 1,2, …, n,如何给矩阵连乘A1* A2* …* An完全加上括号使用矩阵乘法中计算次数最少。
问题分析
若用穷举法,能够证明需要指数时间来求解。但是时间代价高昂。现在考虑用动态规划来求解连乘问题。
解决方案: 为方便起见用Ai...j表示矩阵乘法Ai* Ai+1* ....Aj的结果。其中i<j。那么Ai* Ai+1* .....Aj一定在Ak与Ak+1之间被分裂。i <= k < j。问题Ai* Ai+1 ... Aj完全加括号的开销等于计算矩阵Ai...k 与计算 Ak+1...j的开销,再加上他们的结果相乘的开销。 问题的最优子结构可以描述如下:假定问题Ai* Ai+1* ...Aj被完全加括号的最优方式是在Ak与Ak+1之间被分裂,那么分裂之后,最优Ai* Ai+1* ....Aj中的子链Ai* Ai+1....Ak一定是问题Ai* Ai+1* ...* Ak的最优加括号方式。同样,最优解Ak+1* Ak+2* ...Aj的子链一定是问题Ak+1* Ak+2*...Aj最优加括号方式。 根据上面分析,设m[i,j]表示计算Ai...j所需的最小计算次数 m[i,j] = min{m[i,k]+m[k+1,j]+pi-1 pK pj }
#include<iostream> void main() { int m[8][8], min; int r[8] = {10, 20, 50, 1, 100, 4, 20, 2}; /* 矩阵维数 */ /* 初始化 */ memset(m,0,sizeof(m)); /* 每此增量加一 */ for (int l = 1; l < 7; l++) { /* 对于差值为 l 的两个元素 */ for (int i = 1; i <= 7 - l; i++) { j = i + l; /* 求其最小组合方式 */ min = m[i][i] + m[i+1][j] + r[i-1] * r[i] * r[j]; middle[i][j] = i; for (int k = i + 1; k < j; k++) { if (min > m[i][k] + m[k+1][j] + r[i-1] * r[k] * r[j]) { min = m[i][k] + m[k+1][j] + r[i-1] *r[k]* r[j]; middle[i][j] = k; } } m[i][j] = min; } } std::cout<<m[1] ; } //由以上代码可以很容易看出算法的时间复杂度为O(n^3)。即便如此也比穷举法的指数级时间复杂度快。
相关文章推荐
- mount --bind 重启后失效的解决办法
- 25.Reverse Nodes in k-Group
- Ant自动化构建项目
- Qt 简介
- 29.UITableViewDataSource详解
- 数据结构(7)线性表之链表C++实现差集
- 单例模式
- iOS-UIDynamic物理仿真-附着-UIAttachmentBehavior
- SQL-创建表
- git 遇到的错误以及解决方式(持续更新...)
- 12c_Data redaction 数据编写策略
- android studio gradle 怎么更新
- /bin/bash
- POJO对象(一)简介
- ajax的几个坑,稍微留意
- 对象序列化
- spring笔记--通过注解(annotation)配置Bean
- synchronized锁重入
- 用LinearLayout和RelativeLayout分别实现简单的登陆界面
- SpringMVC、MyBatis框架整合开发项目的简单说明(使用框架说明)