主定理的证明及应用举例

主定理

主定理最早出现在《算法导论》中，提供了分治方法带来的递归表达式的渐近复杂度分析。

规模为n的问题通过分治，得到a个规模为n/b的问题，每次递归带来的额外计算为c(n^d)
T(n) <= aT(n/b)+c(n^d)

那么就可以得到问题的复杂度为：

T(n) = O(n^d log(n)), if a = b^d
T(n) = O(n^d ), if a < b^d
T(n) = O(n^logb(a))), if a > b^d

证明方法

本来使用主定理是可以免去画递归树的，但为了证明主定理，还是需要画树。



可见，每次递归把问题分为a个规模为n/b的子问题。从根节点开始，共有logb(n)+1层，叶子节点数为a^(logb(n))。那么，第j层共有a^j个子问题，每个问题规模为n/b^j，每个子问题运算量为c*(n/b^j)^d需要完成的计算量为：



求和得到整个问题的运算量：



那么，根据a与b^d的关系，很容易得到主定理。

应用

二分搜索

每次问题规模减半，a=1，b=2，d=0
复杂度为n^0 log(n) = log(n)。

快速排序

随机选择待排序序列中的一个数字作为划分字问题的标准，划分是否平均影响算法复杂度
每次问题规模减半，a=2，b=2，d=1
复杂度为n^2 log(n)
最差情况下，复杂度为O(n^2)

归并排序

数据列均分为两部分，分别排序，之后以O(n)的复杂度进行合并，空间复杂度O(n)
每次问题规模减半，a=2，b=2，d=1
复杂度为n log(n)

基数排序(Radix sort)

对于待排序的整数序列，从最低位到最高位每次按照相应的位排序一次
每次递归问题规模变为原来的1/10，但需要求解10个子问题，额外运算为O(n)的，a=10，b=10，d=1
复杂度为n^1 log(n) = n log(n)，近似为O(kN)，k为整数的位数

快速傅里叶变换：FFT

每次问题规模减半，a=2，b=2，d=1
复杂度为n log(n)

Karatsuba快速乘法

正常两个n位数乘法为n^2
算法把两个乘数各分为高低位两部分，如X*Y = (a+b) * (c+d) = ac+bd + (bc+ad) = ac+bd+(ac+bd - (a-b)(c-d))
只需要ac,bd,(a-b)(c-d)三次乘法
每次问题规模减半，但需要解3个子问题，加法是O(n)的，a=3，b=2，d=1
复杂度为n^log2(3)