您的位置:首页 > 产品设计 > UI/UE

[VB.NET]用WebRequest,WebResponse,获取网页源代码,还可以更快吗?

2008-12-29 10:58 435 查看



<script type="text/javascript"><!--
google_ad_client = "pub-8333940862668978";
/* 728x90, 创建于 08-11-30 */
google_ad_slot = "4485230109";
google_ad_width = 728;
google_ad_height = 90;
//-->
</script>
<script type="text/javascript"
src="http://pagead2.googlesyndication.com/pagead/show_ads.js">
</script>

用WebRequest,WebResponse,获取网页源代码,还可以更快吗?
批量的网址,用的如下的代码获取网页源代码:
Dim tempStr As String
Dim request As WebRequest = WebRequest.Create( http://www.163.com )
Dim response As WebResponse = request.GetResponse()
Dim stream As Stream = response.GetResponseStream()
Dim sr As StreamReader = New StreamReader(stream, Encoding.GetEncoding( gb2312 ))
tempStr = sr.ReadToEnd

获取网页源代码的最大速度大概是每秒2.5个。。还能更快吗?
__________________________________________________________________________
想更快,增加线程.....
__________________________________________________________________________
呵呵 也许应该有更快的 但我不知道!!!
__________________________________________________________________________
现在试过了开多个窗口同时用这段代码,但是速度还是2.5个,把电脑拿到同学家去组了个局域网试了一下,两台机器分别开,结果每台机器的获取速度都降了一倍。

现在感觉好像是和网速有直接关系,按每个页面50K左右算,2.5个页面,就是125K左右。这在1M宽带下应该是极限了。。

线程没有具体用过,用的话,真的能更快吗??谁有一个准确可靠的答案,或是其它的方法告诉我呢?现在的获取速度实在是太慢了,三千个页面,大概要花近十几分钟。
__________________________________________________________________________
用异步的方法
__________________________________________________________________________
你想做搜索么?
__________________________________________________________________________
异步的方法,线程的方法,哪种可靠呢?有谁做过类似的功能,批量提取网页中数据,谁能告诉我让他更快不是个梦想?
__________________________________________________________________________
关注中,我也遇到同样问题
__________________________________________________________________________
up!!
__________________________________________________________________________
内容来自用户分享和网络整理,不保证内容的准确性,如有侵权内容,可联系管理员处理 点击这里给我发消息
标签:  vb.net stream string up