性能测试案例-JAVA + LR实现apache流媒体

1、JAVA部分


最近的一个项目，视频点播系统，使用apache实现的流媒体服务器。
其实准确的说叫做伪流（HTTP Pseudo-Streaming），基本原理和概念自行了解吧。
让我简单的描述就是仍然是HTTP下载，播放器播放本地缓存。只不过它也实现了一些和正规流媒体服务类似的功能。

视频点播类系统的性能测试，说简单了主要就是模拟大量用户去看视频。
服务端监控整体性能，客户端关注各自表现。
这里难点主要在于如何模拟大量用户观看视频？如何判断各客户端展现？

多客户端的模拟无外乎3种方法：
1.全公司总动员，一起看。
2.一台机器开多个播放页面（或者是一个页面上嵌入多个播放器），调用多台机器。
3.抛弃客户端的解码播放过程，直接想法下载视频文件。

第一种方法不用说，虽然最真实，但太原始没有技术含量，如果是小公司人还不一定够。
第二种方法在需要测试的用户数不大时还可以，否则会占用较多资源，而且技术含量也较低。这种方式，一台机器上能模拟的用户数很有限，因为CPU会很快成为瓶颈。
第三种方法最高效，在千兆网环境下，一台机器可以模拟很多路用户，此时网络带宽是瓶颈（如果带宽更大，估计硬盘IO就是瓶颈了）。但是没有解码和播放，如何判断客户端的效果呢？两种方式，一是对比下载速度和码率，理论上只要下载速度足够就可以了；二是测试过程中也可以打开几个真实的播放窗口来验证播放效果，因为压力在服务端，可以认为每个客户端都是等价的。

本文要讲的就是第三种测试方法。
以前还测过FMS的流媒体，网上可以找到现成的工具来实现本方法，只要调用就可以了。
但HTTP的这次也搜了两天，好像还真没有，只好自己动手了。
看来最高效的方法，实现起来却是最麻烦的。

基本思路是JAVA实现下载功能，用LR的JAVA Vuser实现多用户的控制。
动手前先给自己整理了一个需求


打对钩的是已经实现了，带星号的是未实现、也不一定需要实现的高级功能。
通过测试程序，需要得到的结果是下载是否正确完成？下载速度是否足够？apache的限速模块是否起作用（如果开启）？
这里可能会有个问题，如果下载程序突破了apache的限速，那有可能是测试程序的问题，这就引出了上面的高级功能“伪装成播放器”。

下面直接贴代码，说明尽量放到注释里。

下载类，提供静态方法。

1 package com.test;
2 import java.io.*;
3 import java.net.*;
4 import java.util.*;
5
6 public class DownloadFile {
7
8     /*
9      *下载指定URL的文件
10      *userid是用于保存本地文件的标识
11      **/
12     public static int getHttpFileByUrl(String address, String userid) {
13         int bufferSize = 1024;
14         int size = 0;
15         byte[] buf = new byte[bufferSize];
16
17         /*
18          *下载时间字符串
19          *用于文件标识
20          *格式201210260130
21          **/
22         Date date = new Date();
23         SimpleDateFormat formatDate = new SimpleDateFormat("yyyyMMddHHmmss");
24         String downloadTime = formatDate.format(date);
30
31          /*
32           *计算下载速度相关
33           */
34         int totalDownloadSize = 0;
35         int lastDownloadSize = 0;
36         long lastCheckTime = 0;
37         long startDownloadTime = 0;
38         int sec = 0;
39
40         /*
41          *下载和计算过程
42          */
43         try {
44             URL url = new URL(address);
45             URLConnection conn = url.openConnection();
46             BufferedInputStream bis = new BufferedInputStream(conn.getInputStream());
47             FileOutputStream fos = new FileOutputStream("e:\\test\\testvideo" + "_" + downloadTime + "_" + userid);
48
49             System.out.println("File Size：" + conn.getContentLength()/1024 + "KB");
50
51             startDownloadTime = System.currentTimeMillis();
52             lastCheckTime = startDownloadTime;
53
54             while ((size = bis.read(buf)) != -1)
55             {
56                 fos.write(buf,0,size);
57                 totalDownloadSize += size;
58
59                 /*
60                  *计算每秒下载速度
61                  */
62                 if (System.currentTimeMillis() - lastCheckTime > 1000) {
63                     System.out.println(sec + ": " + (totalDownloadSize - lastDownloadSize)/1024 + "KB");
64                     lastCheckTime = System.currentTimeMillis();
65                     lastDownloadSize = totalDownloadSize;
66                     sec++;
67                 }
68             }
69
70             System.out.println("Vuser " + userid + " Download Completed!");
71             System.out.println("Average Download Speed: " + (totalDownloadSize/1024)/((System.currentTimeMillis() - startDownloadTime)/1000) + "KB/s");
72
73             fos.close();
74             bis.close();
75
76         }catch (MalformedURLException e) {
77             e.printStackTrace();
78         }catch (IOException e) {
79             e.printStackTrace();
80         }
81
82         return totalDownloadSize/1024;
83     }
84 }

测试驱动。

1 import com.test.*;
2 import java.util.*;
3 import java.io.*;
4
5 public class DownloadDrive {
6
7     public static void main (String[] args) {
8
9         //System.out.println("test");
10         //DownloadFile.test();
11
12         /*
13          *调用者测量
14          *自行实现
15          */
16         int DownLoadSize = 0;
17         double DownLoadTime = 0;
18         int Speed = 0;
19
20         String url;
21         ArrayList urlList = new ArrayList();
22
23         /*
24          *读取待下载的URL地址
25          *保存到list中
26          */
27         try{
28             BufferedReader br = new BufferedReader(new FileReader("url.txt"));
29             while((url = br.readLine()) != null){
30                 urlList.add(url);
31             }
32         }catch(IOException ie){
33             ie.printStackTrace();
34         }
35
36         System.out.println("Total URLs: " + urlList.size());
37
38         /*
39          *依次下载list中的文件
40          */
41         for(int i = 0; i < urlList.size(); i++){
42             url = (String)urlList.get(i);
43             System.out.println(url);
44             //传入url和每个调用者的标识
45             DownloadFile.getHttpFileByUrl(url, "1");
46         }
47     }
48
49 }

将待下载的URL保存到url.txt中，每行一个地址。文件放到DownloadDrive.class同目录中。
如
http://www.ospreypacks.com/user_manuals/S12_Kestrel_OM_SCh1.pdf http://desktop.youku.com/youkuclient/youkuclient_setup.exe http://download.get.live.cn/components/pinyin/EngkooPinyinSetup_1.0.382.02.exe
运行测试，结果如图

Total URLs: 3 http://www.ospreypacks.com/user_manuals/S12_Kestrel_OM_SCh1.pdf File Size：1979KB
0: 85KB
1: 333KB
2: 396KB
3: 370KB
4: 254KB
5: 318KB
6: 151KB
7: 7KB
8: 5KB
9: 11KB
10: 7KB
11: 7KB
12: 7KB
13: 7KB
14: 7KB
Vuser 1 Download Completed!
Average Download Speed: 116KB/s http://desktop.youku.com/youkuclient/youkuclient_setup.exe File Size：8970KB
0: 505KB
1: 253KB
2: 405KB
3: 210KB
4: 366KB
5: 325KB
6: 312KB
7: 352KB
8: 355KB
9: 288KB
10: 352KB
11: 185KB
12: 454KB
13: 341KB
14: 292KB
15: 354KB
16: 337KB
17: 379KB
18: 345KB
19: 194KB
20: 404KB
21: 281KB
22: 10KB
23: 511KB
24: 332KB
25: 258KB
26: 328KB
Vuser 1 Download Completed!
Average Download Speed: 299KB/s http://download.get.live.cn/components/pinyin/EngkooPinyinSetup_1.0.382.02.exe File Size：24290KB
0: 362KB
1: 273KB
2: 292KB
3: 329KB
4: 307KB
5: 325KB
6: 329KB
7: 295KB
8: 312KB
9: 295KB
10: 329KB
11: 332KB
12: 275KB
13: 271KB
14: 361KB
15: 313KB
16: 275KB
17: 372KB
18: 314KB
19: 369KB
20: 323KB
21: 350KB
22: 354KB
23: 340KB
24: 342KB
25: 349KB
26: 317KB
27: 354KB
28: 303KB
29: 345KB
30: 345KB
31: 354KB
32: 328KB
33: 330KB
34: 305KB
35: 304KB
36: 310KB
37: 352KB
38: 347KB
39: 286KB
40: 194KB
41: 292KB
42: 350KB
43: 286KB
44: 433KB
45: 330KB
46: 295KB
47: 319KB
48: 358KB
49: 301KB
50: 302KB
51: 304KB
52: 295KB
53: 312KB
54: 311KB
55: 280KB
56: 310KB
57: 304KB
58: 273KB
59: 320KB
60: 288KB
61: 294KB
62: 351KB
63: 354KB
64: 296KB
65: 354KB
66: 362KB
67: 361KB
68: 296KB
69: 329KB
70: 246KB
71: 411KB
72: 270KB
73: 327KB
74: 321KB
Vuser 1 Download Completed!
Average Download Speed: 299KB/s

Process completed.

到这，主要代码已经实现了。下一步需要做的是和LR整合，用LR的Java Vuser对下载功能进行控制，模拟多用户。
其实也就是重写一个测试驱动，只不过这个驱动是需要LR内部方法了，应该没有什么技术上的难点了。

2、LR部分

新建LR的JAVA Vuser脚本，这里可以直接进行JAVA编码，又可以调用LR的内部方法，如事务、思考时间、集合点等等。到了这步已经没有任何难点了，开发人员只要花1个小时了解下LR的基本使用和常用方法即可，测试人员如果不会JAVA……那还是算了吧。

　　Action.java内容如下：

1 import lrapi.lr;
2 import com.test.*;
3 import java.util.*;
4 import java.io.*;
5
6 public class Actions
7 {
8
9     public int init() throws Throwable {
10         return 0;
11     }//end of init
12
13
14     public int action() throws Throwable {
15
16         /*
17         调用者测量
18         */
19         int downloadSize = 0;
20         int downloadTime = 0;
21         long startTime = 0;
22         long endTime = 0;
23         int speed = 0;
24
25         int vid;
26         vid = lr.get_vuser_id();
27
28         /*
29         从url文件生成arraylist
30             */
31         String url;
32         ArrayList urlList = new ArrayList();
33
34         try{
35                 BufferedReader br = new BufferedReader(new FileReader("url.txt"));
36
37         　　　　　while((url = br.readLine()) != null){
38             　　 urlList.add(url);
39         }
40         }catch(IOException ie){
41         　　ie.printStackTrace();
42         }
43
44         lr.enable_redirection(true);
45         lr.set_debug_message(lr.MSG_CLASS_JIT_LOG_ON_ERROR, lr.SWITCH_OFF);
46
47         System.out.println("Total URLs: " + urlList.size());
48
49         for(int i = 0; i < urlList.size(); i++){
50         　　url = (String)urlList.get(i);
51         　　System.out.println(url);
52
53         　　//事务名称
54         　　String trxName = "URL" + (i+1);
55
56         　　startTime = System.currentTimeMillis();
57
58         　　lr.start_transaction(trxName);
59         　　//传入url和每个调用者的标识
60         　　downloadSize = DownloadFile.getHttpFileByUrl(url, Integer.toString(vid));
61         　　lr.end_transaction(trxName, lr.AUTO);
62
63         　　endTime = System.currentTimeMillis();
64         　　downloadTime = (int)(endTime - startTime)/1000;
65         　　speed = downloadSize / downloadTime;
66
67         　　lr.output_message(trxName + ": completed");
68         　　lr.output_message("time cost: " + downloadTime + "s");
69         　　lr.output_message("average speed: " + speed + "KB/s");
70         　　lr.output_message("");
71
72         }
73
74         lr.set_debug_message(lr.MSG_CLASS_JIT_LOG_ON_ERROR, lr.SWITCH_ON);
75
76         return 0;
77     }//end of action
78
79
80     public int end() throws Throwable {
81         return 0;
82     }//end of end
83 }

　　所有以lr开头的方法都是LR内部方法，这里只用到了事务、日志等几个。

　　编译之前我们的JAVA下载代码，将包（com.test）放入LR脚本的目录中，如图：　　

　　


　　打开LR脚本，运行试一下。

　　


　　可以看到正常输出了日志，再验证一下下载到的文件是否完整，找到输出路径，如“h:\test\testvideo_20121106194419_-1”，用播放器打开这个文件，正常播放。说明我们的脚本已经OK了，下面就要做多用户的测试了。

　　打开controller，设置同时运行2个VUSER（为了保证负载机的网络不成为瓶颈），运行场景。



　　可以看到，2个VUSER都按预期正常完成了。

　　从几个方面验证测试的有效性：
　　1是负载机的网络利用，上面单用户执行脚本时下载速度是5M/s（apache服务器做了限速），这次两个用户同时下载达到了10M。

　　　　　　


　　2是每个VUSER的输出日志。
　　3是下载文件的完整性。