[VB.NET]用WebRequest,WebResponse,获取网页源代码,还可以更快吗?
2008-12-29 10:58
435 查看
<script type="text/javascript"><!--
google_ad_client = "pub-8333940862668978";
/* 728x90, 创建于 08-11-30 */
google_ad_slot = "4485230109";
google_ad_width = 728;
google_ad_height = 90;
//-->
</script>
<script type="text/javascript"
src="http://pagead2.googlesyndication.com/pagead/show_ads.js">
</script>
用WebRequest,WebResponse,获取网页源代码,还可以更快吗?
批量的网址,用的如下的代码获取网页源代码:
Dim tempStr As String
Dim request As WebRequest = WebRequest.Create( http://www.163.com )
Dim response As WebResponse = request.GetResponse()
Dim stream As Stream = response.GetResponseStream()
Dim sr As StreamReader = New StreamReader(stream, Encoding.GetEncoding( gb2312 ))
tempStr = sr.ReadToEnd
获取网页源代码的最大速度大概是每秒2.5个。。还能更快吗?
__________________________________________________________________________
想更快,增加线程.....
__________________________________________________________________________
呵呵 也许应该有更快的 但我不知道!!!
__________________________________________________________________________
现在试过了开多个窗口同时用这段代码,但是速度还是2.5个,把电脑拿到同学家去组了个局域网试了一下,两台机器分别开,结果每台机器的获取速度都降了一倍。
现在感觉好像是和网速有直接关系,按每个页面50K左右算,2.5个页面,就是125K左右。这在1M宽带下应该是极限了。。
线程没有具体用过,用的话,真的能更快吗??谁有一个准确可靠的答案,或是其它的方法告诉我呢?现在的获取速度实在是太慢了,三千个页面,大概要花近十几分钟。
__________________________________________________________________________
用异步的方法
__________________________________________________________________________
你想做搜索么?
__________________________________________________________________________
异步的方法,线程的方法,哪种可靠呢?有谁做过类似的功能,批量提取网页中数据,谁能告诉我让他更快不是个梦想?
__________________________________________________________________________
关注中,我也遇到同样问题
__________________________________________________________________________
up!!
__________________________________________________________________________
相关文章推荐
- asp.net 利用HttpWebRequest自动获取网页编码并获取网页源代码
- asp.net 利用HttpWebRequest自动获取网页编码并获取网页源代码
- 用asp.net c# HttpWebRequest获取网页源代码
- C#获取网页内容 (WebClient、WebBrowser和HttpWebRequest/HttpWebResponse)
- c#利用WebClient和WebRequest获取网页源代码
- c#利用WebClient和WebRequest获取网页源代码
- 彻底解决VB.NET获取网页源代码的问题
- HttpWebRequest获取网页html源代码(并自动获取encoding)
- [转]c#利用WebClient和WebRequest获取网页源代码的比较
- c#利用WebClient和WebRequest获取网页源代码的比较
- c#利用WebClient和WebRequest获取网页源代码的比较
- ASP.NET使用HttpWebRequest读取远程网页源代码
- HttpWebRequest获取网页源代码时自动识别网页编码
- c#利用WebClient和WebRequest获取网页源代码的比较
- HttpWebRequest获取网页html源代码(并自动获取encoding)
- c#利用WebClient和WebRequest获取网页源代码的比较
- c#利用WebClient和WebRequest获取网页源代码的比较
- wp7使用POST请求Asp.net网页时,HttpWebRequest的BeginGetResponse方法抛出NotSupportException异常的解决方法
- c#利用WebClient和WebRequest获取网页源代码
- c#利用WebClient和WebRequest获取网页源代码的比较