浅谈XMLHTTP对象(属性和方法)-VBA抓取网页数据

[原创]浅谈XMLHTTP对象(属性和方法)-VBA抓取网页数据
用VBA抓取网页数据有不少方法，其中一种便是引用XMLHTTP对象。在这里尝试为大家介绍一下这个对象的一些基本属性和方法还有一些应用示例。

XMLHTTP对象参考

IXMLHTTPRequest
提供客户端同http服务器通讯的协议

示例

以下示例建立一个XMLHTTP对象，并向http服务器发出指定地址的请求，请求返回XML的源文件(XML document)，如果服务器不能连通，则返回错误。

Dim HttpReq As Object
Set HttpReq = CreateObject("MSXML2.XMLHTTP.3.0")
HttpReq.open "GET", "http:// ajaxServer.aspx", False
HttpReq.send
MsgBox HttpReq.responseText


说明：第一，二行可以用以下语句代替，但前提是需要在对象里先引用Microsoft XML,v2.6-6.0(msxml2.dll, msxml3.dll, msxml4.dll, msxml5.dll, msxml6.dll)其中之一。

Dim HttpReq As New MSXML2.XMLHTTP30

备注

客户端可以通过XmlHttp对象(MSXML2.XMLHTTP.3.0)向http服务器发送请求并使用微软XML文档对象模型Microsoft? XML Document Object Model (DOM)处理回应。
该对完全象集成了Microsoft XML Core Services (MSXML)，支持直接发送请求，并用MSXML DOM分析响应。由于集成了对Extensible Stylesheet Language (XSL)的支持，XMLHTT对象组件提供一个很简易的途径向HTTP服务器发送一个结构化查询，并支持用多种形式有效显示结果。
通常的使用顺序是，先用open 方法，再用send方法发送请求，然后用setRequestHeader方法设置自定义头信息，最后查看四种以不同形式返回的响应结果。
XMLHTTP对象支持Microsoft Internet Explorer (IE) 5.0 及以上版本，只要你的网页浏览器指定一种语言进行浏览。更详细的信息请查看Explorer的帮助文件关于"To specify another language for Web page content" 的部份。

版本

MSXML 2.0及以上版本

先决条件

如果不用CreateObject方法创建对象，则需要先引用以下任意一个版本的文件:
msxml3.dll, msxml2.lib (MSXML 3.0)
msxml4.dll, msxml2.lib (MSXML 4.0)
msxml5.dll, msxml2.lib (MSXML 5.0 for Microsoft Office Applications)
msxml6.dll, msxml2.lib (MSXML 6.0)
Header and IDL files: msxml2.h, msxml2.idl

XMLHttp成员

属性
onreadystatechange*
指定当readyState属性改变时的事件处理句柄。只写. 每个状态改变时都会触发这个事件处理器

readyState
返回当前请求的状态，只读.

responseBody
将回应信息正文以unsigned byte数组形式返回.只读

responseStream
以Ado Stream对象的形式返回响应信息。只读

responseText
将响应信息作为字符串返回.只读

responseXML
将响应信息格式化为Xml Document对象并返回，只读

status
返回当前请求的http状态码.只读

statusText
返回当前请求的响应行状态，只读



* 表示此属性是W3C文档对象模型的扩

展.在VBA中不能直接调用


方法
abort
取消当前请求

getAllResponseHeaders
获取响应的所有http头

getResponseHeader
从响应信息中获取指定的http头

open
创建一个新的http请求，并指定此请求的方法、URL以及验证信息(用户名/密码)

send
发送请求到http服务器并接收回应

setRequestHeader
单独指定请求的某个http头





待续。。。。。。




[ 本帖最后由 uranus1997 于 2008-7-21 15:12 编辑 ]
本帖最近评分记录
戏子 金币 +5 师妹强啊! 2008-9-15 19:49
hyy514 金币 +1 支持 2008-7-27 12:53
小菜鸟 金币 +1 好贴 2008-7-24 21:45

帖子88 金币572 个 技巧级别0 级 函数级别0 级 VBA级别0 级 最佳答案37 次 阅读权限200 在线时间51 小时 注册时间2008-7-17 最后登录2009-4-20 查看详细资料
TOP


uranus1997
版主



帖子88 金币572 个 技巧级别0 级 函数级别0 级 VBA级别0 级 最佳答案37 次 阅读权限200 在线时间51 小时 注册时间2008-7-17 最后登录2009-4-20 发短消息 加为好友 当前离线 2# 大 中 小 发表于 2008-7-21 15:04 只看该作者
readyState属性




返回XMLHTTP请求的当前状态



此属性只读，返回值为4字节的长整型（具体值请看备注）



当XMLHttp对象把一个HTTP请求发送到服务器时将经历若干种状态：一直等待直到请求被处理；然后，它才接收一个响应。这样以来，脚本才正确响应各种状态-XMLHttpRequest对象拥有一个描述对象的当前状态的readyState属性。



语法


strValue = oXMLHttpRequest.readyState;




示例

Dim XmlHttp As Object
Set XmlHttp = CreateObject("Msxml2.XMLHTTP.3.0")

XmlHttp.Open "GET", "http://localhost/test.xml", True
XmlHttp.send
If XmlHttp.readyState = 4 Then
MsgBox "Done"
End If

备注



此属性只读，状态用长度为4的整型表示(4-byte integer).定义如下：



0
"未初始化"状态。此时，已经创建一个XMLHttpRequest对象，但是还没有初始化（即还没调用open方法）。

1
"初始化"状态。此时，已经调用open方法,并且XMLHttpRequest对象已经准备好把一个请求发送到服务器，但还没调用send方法。

2
"发送"状态。此时，已经调用send方法，把一个请求发送到服务器端，但是还没有收到一个响应，即是当前的状态及http头部信息未知。

3
"正在接收"状态。此时，已经接收到HTTP响应头部信息，但是消息体部分还没有完全接收结束，这时通过responseBody和responseText获取部分数据会出现错误。

4
数据接收完毕,此时可以通过通过responseBody和responseText获取完整的回应数据


Note

从MSXML 3.0开始，如果在数据还没有加载完毕（例如，在加载状态或交互式状态）前就读取status 属性，则会

返回一个错误信息："The data necessary to complete this operation is not yet available."


版本

MSXML 2.0及以上版本

responseBody属性

以未解码的二进制数组形式返回HTTP服务器响应数据。

语法
strValue = oXMLHttpRequest.responseBody;

示例

Dim xmlhttp As New Msxml2.XMLHTTP50
xmlhttp.open "GET", "http://localhost/test.xml", False
xmlhttp.send
MsgBox UBound(xmlhttp.responseBody)


备注

返回值为Variant类型，只读。XMLHTTP的responseBody从服务器返回一个二进制数组，即一个类型为VT_ARRAY | VT_UI1*的安全数组(SAFEARRAY)来表示返回数据的实体。他包含了从服务器返回的未经解码的二进制数据，因此，基于请求不同的服务器，最终会显示不同的二进制编码数据(UTF-8, UCS-2, UCS-4, Shift_JIS等等)。

*VT_UI1：无符号1字节整数(BYTE)数组
当Variant的数据类型为VT_ARRAY | VT_UI1时，返回一个SAFEARRAY安全数组

如果想返回解码后的数据实体则需要进行编码转换来解码，否则会发生乱码。如以下程序会发生中文乱码：

Dim xmlhttp As New Msxml2.XMLHTTP50
xmlhttp.open "GET", "http://localhost/test.xml", False
xmlhttp.send
MsgBox xmlhttp.responseBody

以下为编码转换函数：

Function bytes2BSTR(arrBytes) '编码转换
Dim strReturn As String
Dim ThisCharCode As String
Dim NextCharCode As String
Dim i As Long

strReturn = ""
arrBytes = CStr(arrBytes)
For i = 1 To LenB(arrBytes)
ThisCharCode = AscB(MidB(arrBytes, i, 1))
If ThisCharCode < &H80 Then
strReturn = strReturn & Chr(ThisCharCode)
Else
NextCharCode = AscB(MidB(arrBytes, i + 1, 1))
strReturn = strReturn & Chr(CLng(ThisCharCode) * &H100 + CInt(NextCharCode))
i = i + 1
End If
Next i
bytes2BSTR = strReturn
End Function


以下程序不会发生乱码了：

Dim xmlhttp As New Msxml2.XMLHTTP50
xmlhttp.open "GET", "http://localhost/test.xml", False
xmlhttp.send
MsgBox bytes2BSTR(xmlhttp.responseBody)


版本

MSXML 2.0及以上版本

[ 本帖最后由 uranus1997 于 2008-7-24 08:26 编辑 ]
本帖最近评分记录
admin 威望 +10 原创内容 2008-7-21 16:44

帖子88 金币572 个 技巧级别0 级 函数级别0 级 VBA级别0 级 最佳答案37 次 阅读权限200 在线时间51 小时 注册时间2008-7-17 最后登录2009-4-20 查看详细资料
TOP


uranus1997
版主



帖子88 金币572 个 技巧级别0 级 函数级别0 级 VBA级别0 级 最佳答案37 次 阅读权限200 在线时间51 小时 注册时间2008-7-17 最后登录2009-4-20 发短消息 加为好友 当前离线 3# 大 中 小 发表于 2008-7-21 15:05 只看该作者 responseStream属性

以Ado Stream对象的形式返回响应信息

语法
strValue = oXMLHttpRequest.responseStream;

备注
返回值为Variant类型，只读。XMLHTTP的responseStream从服务器返回一数据流入stream（IStrea

m）。该包含了从服务器返回的未经解码的二进制数据，因此，基于请求不同的服务器，最终会显示不同的二进制编码数据(UTF-8, UCS-2, UCS-4, Shift_JIS等等)。如果请求的网页的数据编码不是二进制，则会发生乱码。

版本
MSXML 2.0及以上版本

responseText属性



以字符串形式返回响应信息（即我们通常见到的网页源文件）


语法


strValue = oXMLHttpRequest.responseText;


示例

Dim xmlhttp As New Msxml2.XMLHTTP30


xmlhttp.open "GET", "http://localhost/test.xml", False


xmlhttp.send


MsgBox xmlhttp.responseText


备注


返回值为String类型，此属性只读。


XMLHTTP尝试将响应信息解码为Unicode字符串，XMLHTTP默认将响应数据的编码定为UTF-8，如果服务器返回的数据是匹配的Unicode BOM(byte-order mark)编码，XMLHTTP可以解码任何UCS-2 (big or little endian)或者UCS-4 数据。注意，如果服务器返回的是xml文档，此属性并不处理xml文档中的编码声明。你需要使用responseXML来处理。




这个responseText属性包含客户端接收到的HTTP响应的文本内容。当readyState值为0、1或2时，responseText包含一个空字符串。当readyState值为3(正在接收)时，响应中包含客户端还未完成的响应信息。当readyState为4(已加载)时，该responseText包含完整的响应信息。



版本
MSXML 2.0及以上版本




responseXML属性



以Xml Document对象形式返回将响应信息


语法


Set objDispatch = oXMLHttpRequest.responseXML



示例

Dim xmlhttp As New Msxml2.XMLHTTP30


xmlhttp.open "GET", "http://localhost/test.xml", False


xmlhttp.send


MsgBox xmlhttp.responseXML.xml




备注


此属性只读，将响应信息格式化为Xml Document对象并返回。如果响应数据不是有效的XML文档，此属性本身不返回XMLDOMParseError，可以通过处理过的DOMDocument对象获取错误信息。




此responseXML属性用于当接收到完整的HTTP响应时(readyState为4)描述XML响应；如果响应实体不是有效的xml格式，则返回错误。无论何时，只要readyState值不为4，那么该responseXML的值也会返回null。




如果Content-Type头部并不包含以下这些媒体类型之一：Content-Type头部指定MIME(媒体)类型为text/xml，application/xml或以+xml结尾，例如，"application/rss+xml"，那么responseXML的值为null。




其实，这个responseXML属性值是一个文档接口类型的对象，用来描述被分析的文档。如果文档不能被分析(例如，如果文档不是良构的或不支持文档相应的字符编码)，那么responseXML的值将为null。



版本

MSXML 2.0及以上版本

[ 本帖最后由 uranus1997 于 2008-7-24 08:27 编辑 ]
帖子88 金币572 个 技巧级别0 级 函数级别0 级 VBA级别0 级 最佳答案37 次 阅

读权限200 在线时间51 小时 注册时间2008-7-17 最后登录2009-4-20 查看详细资料
TOP


uranus1997
版主



帖子88 金币572 个 技巧级别0 级 函数级别0 级 VBA级别0 级 最佳答案37 次 阅读权限200 在线时间51 小时 注册时间2008-7-17 最后登录2009-4-20 发短消息 加为好友 当前离线 4# 大 中 小 发表于 2008-7-21 15:06 只看该作者 status属性

返回当前请求的http状态码，长整型，只读。

语法
lValue = oXMLHttpRequest.status;

示例

Dim xmlServerHttp As New Msxml2.ServerXMLHTTP30
xmlServerHttp.open "GET", "http://localhost/books.xml", False
xmlServerHttp.send
MsgBox xmlServerHttp.status

返回值

长整形标准http状态码，定义如下：


状态码


描述



100


Continue



101


Switching protocols



200


OK



201


Created



202


Accepted



203


Non-Authoritative Information



204


No Content



205


Reset Content



206


Partial Content



300


Multiple Choices



301


Moved Permanently



302


Found



303


See Other



304


Not Modified



305


Use Proxy



307


Temporary Redirect



400


Bad Request



401


Unauthorized



402


Payment Required



403


Forbidden



404


Not Found



405


Method Not Allowed



406


Not Acceptable



407


Proxy Authentication Required



408


Request Timeout



409


Conflict



410


Gone



411


Length Required



412


Precondition Failed



413


Request Entity Too Large



414


Request-URI Too Long



415


Unsupported Media Type



416


Requested Range Not Suitable



417


Expectation Failed



500


Internal Server Error



501


Not Implemented



502


Bad Gateway



503


Service Unavailable



504


Gateway Timeout



505


HTTP Version Not Supported




备注

以长整形数字来表示当前请求的http状态,此属性仅当数据发送并接收完毕后才可获取。 而且，仅当readyState值为3(正在接收中)或4(已加载)时，这个status属性才可用。当readyState的值小于3时试图存取status的值将引发一个异常。

版本
MSXML 2.0及以上版本

statusText属性

返回当前请求的响应状态代码描述，字符串类型，只读。

语法
strValue = oXMLHttpRequest.statusText

示例

Dim xmlhttp As New Msxml2.XMLHTTP30
xmlhttp.open "GET", "http://localhost/books.xml", False
xmlhttp.send
MsgBox xmlhttp. statusText

备注

以BSTR返回当前请求的响应状态代码描述,此属性仅当数据发送并接收完毕后才可获取，即仅当readyState值为3或4才可用。当readyState为其它值时试图

存取statusText属性将引发一个异常。