微信公众号内容采集方法详解
https://www.360docs.net/doc/2e9773043.html,
微信已成为大多数人每天生活工作的一部分，所以会花不少的时间浏览微信公众号的文章内容，里面的精品以及爆款文章不少，如果想把这些文章都采集下来，怎么办在手机上一篇一篇下载有不方便，这是不得不用一下科学高效的采集方法了。下面介绍一个微信公众号内容采集的神奇方法。
很多时候，我们有采集网页文章正文的需求。本文以搜狗微信文章为例，介绍使用八爪鱼采集网页文章正文的方法。文章正文里一般包括文本和图片两种。本文仅演示采集正文中本文的方法，图文采集会在另一篇教程中讲到。
本文将采集以下字段：文章标题、时间、来源和正文（正文中的所有文本，将合并到一个excel单元格中，将使用到“自定义数据合并方式”功能，请大家注意）。以下为“自定义数据合并方式”详解教程，大家可先了解一下：
https://www.360docs.net/doc/2e9773043.html,/tutorialdetail-1/zdyhb_7.html
采集网站：https://www.360docs.net/doc/2e9773043.html,/
使用功能点：
分页列表信息采集
https://www.360docs.net/doc/2e9773043.html, 1）进入主界面，选择“自定义模式”
微信公众号文章正文采集步骤1
2）将要采集的网址URL复制粘贴到网站输入框中，点击“保存网址”
https://www.360docs.net/doc/2e9773043.html, 微信公众号文章正文采集步骤2
步骤2：创建翻页循环
1）在页面右上角，打开“流程”，以展现出“流程设计器”和“定制当前操作”两个板块。网页打开后，默认显示“热门”文章。下拉页面，找到并点击“加载更多内容”按钮，在操作提示框中，选择“更多操作”
https://www.360docs.net/doc/2e9773043.html,
微信公众号文章正文采集步骤3
2）选择“循环点击单个元素”，以创建一个翻页循环
https://www.360docs.net/doc/2e9773043.html,
微信公众号文章正文采集步骤4
由于此网页涉及Ajax技术，我们需要进行一些高级选项的设置。选中“点击元素”步骤，打开“高级选项”，勾选“Ajax加载数据”，设置时间为“2秒”
https://www.360docs.net/doc/2e9773043.html,
微信公众号文章正文采集步骤5
注：AJAX即延时加载、异步更新的一种脚本技术，通过在后台与服务器进行少量数据交换，可以在不重新加载整个网页的情况下，对网页的某部分进行更新。表现特征：a、点击网页中某个选项时，大部分网站的网址不会改变；b、网页不是完全加载，只是局部进行了数据加载，有所变化。
验证方式：点击操作后，在浏览器中，网址输入栏不会出现加载中的状态或者转圈状态。
https://www.360docs.net/doc/2e9773043.html,
观察网页，我们发现，通过5次点击“加载更多内容”，页面加载到最底部，一共显示100篇文章。因此，我们设置整个“循环翻页”步骤执行5次。选中“循环翻页”步骤，打开“高级选项”，打开“满足以下条件时退出循环”，设置循环次数等于“5次”，点击“确定”
微信公众号文章正文采集步骤6
步骤3：创建列表循环并提取数据
1）移动鼠标，选中页面里第一条文章链接。系统会自动识别相似链接，在操作提示框中，选择“选中全部”
https://www.360docs.net/doc/2e9773043.html,
微信公众号文章正文采集步骤7
2）选择“循环点击每个链接”
https://www.360docs.net/doc/2e9773043.html,
微信公众号文章正文采集步骤8
3）系统会自动进入文章详情页。点击需要采集的字段（这里先点击了文章标题），在操作提示框中，选择“采集该元素的文本”。文章发布时间、文章来源字段的采集方法同理
https://www.360docs.net/doc/2e9773043.html,
微信公众号文章正文采集步骤9
4）接下来开始采集文章正文。先点击文章正文的第一段，系统会自动识别页面内的同类元素，选择“选中全部”
https://www.360docs.net/doc/2e9773043.html,
微信公众号文章正文采集步骤10
5）可以看到，所有的正文段落均被选中，变为绿色。选择“采集以下元素文本”
https://www.360docs.net/doc/2e9773043.html,
微信公众号文章正文采集步骤11
注意：在字段表中，可进行字段的自定义修改
https://www.360docs.net/doc/2e9773043.html,
微信公众号文章正文采集步骤12
6）经过如上操作，正文就会被全部采集下来（默认为每一段正文为一个单元格）。一般而言，我们希望采集的正文，合并为同一个单元格。点击“自定义数据字段”按钮，选择“自定义数据合并方式”，勾选“同一字段多次提取合并为一行，即追加到同一字段，例如正文分页合并”，再点击“确定”
https://www.360docs.net/doc/2e9773043.html,
微信公众号文章正文采集步骤13
“自定义数据字段”按钮
https://www.360docs.net/doc/2e9773043.html,
选择“自定义数据合并方式”
微信公众号文章正文采集步骤14
https://www.360docs.net/doc/2e9773043.html,
微信公众号文章正文采集步骤15
如图进行勾选
步骤4：修改Xpath
1）选中整个“循环步骤”，打开“高级选项”，可以看到，八爪鱼默认生成的是固定元素列表，定位的是前20篇文章的链接
https://www.360docs.net/doc/2e9773043.html,
微信公众号文章正文采集步骤16
2）在火狐浏览器中打开要采集的网页并观察源码。我们发现，通过此条Xpath：//DIV[@class='main-left']/DIV[3]/UL/LI/DIV[2]/H3[1]/A，页面中所需的100篇文章均被定位了
https://www.360docs.net/doc/2e9773043.html, 微信公众号文章正文采集步骤17
3）将修改后的Xpath ，复制粘贴到八爪鱼中所示位置，然后点击“确定”
https://www.360docs.net/doc/2e9773043.html,
微信公众号文章正文采集步骤18
步骤5：修改流程图结构
我们继续观察，通过5次点击“加载更多内容”后，此网页加载出全部100篇文章。因而我们配置规则的思路是，先建立翻页循环，加载出全部100篇文章，再建立循环列表，提取数据
1）选中整个“循环”步骤，将其拖出“循环翻页”步骤。如果不进行此项操作，那么将会出现很多重复数据
https://www.360docs.net/doc/2e9773043.html,
微信公众号文章正文采集步骤19
拖动完成后，如下图所示