对LR中报WSA_IO_pending的解析-Zee

对LR中报WSA_IO_pending的解析-Zee
Zee早期文档
首先：谢谢曹向志老师的指点。

下面来看一下这个问题：
问题出现
前几天一位珠海网友highoo问了一个问题：在使用LR进行性能测试的过程中出现了错误：
WSA_IO_PENDING，Message Code 27740。

官方troubleshooting如下：
Message Code 27740
Overlapped transmission of request to '%1' for URL 'URL' failed.
The transmission of data to the server failed. It could be a network, router, or server problem. The word Overlapped refers to the way LoadRunner sends data in order
to get a Web Page Breakdown.
Troubleshooting
Add the following statement to the beginning of the script to disable the breakdown of the "First Buffer" into server and network time:
web_set_sockets_option("OVERLAPPED_SEND", "0");
解决方式
添加：web_set_sockets_option("OVERLAPPED_SEND", "0")语句。

解析原因
IO Overlapped是一种异步IO，在 socket层，只有少量数据发送的时候，只要create new thread,send, receive,就可以了。

但是，当数据量增加的时候，要考虑资源的充分利用，也要避免资源的拥塞队列，如果创建线程过多，和CPU内存磁盘等资源的交互过多，可能导致拥塞出现。

在这时就要考虑资源的拥塞问题了，在socket中有两种处理的方式：
1， IO overlapped
工作方式是这样的：
A:调用WSARecv, WSARecvFrom, WSASend, WSASendTo, 或 WSAIoctl.等函数，传入
overlapped参数，表示这个函数要执行这个动作；
B:调用WSAGetOverlappedResult函数来取数据；
C:再执行A，调用另一个带有overlapped的参数另一个线程交替处理。

这种方式，可以处理一定量的数据。

但是在大数据量的时候，这种处理方式显示出了先天的不足。

因为使用这种方式会创建新的线程，这样势必增加系统的开销。

当出现成千上万的线程时，系统的开销已经相当大了，因为要频繁的在上下文之间切换。

所以在socket编程里，这种方式，处理线程数不是很大的情况下是比较有优势的。

2， IO completion port
在winsock2中引入了异步IO的API：IOCP。

其实这里也是overlapped的理念。

但有不同，
如下描述：
这种异步IO的工作方式是：先开一些线程，处在hold的状态下，应用线程和completion port 关联起来，当某个线程要处理数据时，就与completion port进行通信，这样就可以进行socket操作了，这种处理方式就是在刚开始的时候，消耗一些资源开线程，处理大数据量
的socket通信，如图：
这样一来completion port就可以处理threads和IO Device之间的交互了。

打个比方来说：
有很多人早上都去坐地铁，但是，如果不限制人往站台走的速度，售票口就要增加很多个才能处理乘客的请求，这样成本就会增加很多，并且站台上最后会挤满了人，最后导致危机出现；而现在，在进入地铁的时候，加上有序的限流措施，这样一来售票口不用增加，也可以处理乘客的请求，站台上就不会有那么大的压力。

在我的理解中，completion port就有着这么一个功能。

在处理大数据量的时候，它起着维
持秩序的作用。

以上为socket在处理数据量较大时的两种方式。

而在性能测试中，如果开的线程过多，可能某些资源不足导致不停的上下文切换，就会有
thread得不到资源，从而出现pending。

如果我们关闭了overlapped，就会同步执行。

这时如果CPU速度够快（同时其他资源是足够用的），是可以处理所有请求，并且不会出现 pending的。

但是，如果thread开的越来越多，也可能导致CPU处理不了，从而出现CPU频繁的上下文切换，或者队列增长。

最后出错。

这时，我们可以针对性的来提出解决方案了。