最近抓取百度文库时遇到问题。试图用 casperjs 来抓取百度文库文章,对方采用了分页,要获取全部文章内容,必须爬完每一个分页。
最先处理分页的方式是直接在 URL 中加入页面后缀,例如 https://wk.baidu.com/view/f75735e5a8956bec0875e353#6,代表第 6 页,以此类推。但尝试过后发现不行,服务器有时返回第 1 页内容。
现在尝试模拟点击来获取分页,but。。。问题又来了,chrome console 中利用 jquery,或在 casperjs 中 click “下一页”、“继续阅读”等元素都不能生效,但是,其他元素例如左上方的“百度文库”可以却可以 click 生效。我怀疑是不是百度文库采用了什么方法来防止模拟点击,所以点击不能生效。
文章地址: https://wk.baidu.com/view/f75735e5a8956bec0875e353
请各位大大们指点指点!
1
knva 2017-10-19 11:49:09 +08:00
没用过 casperjs
但是 console 中输入 $('.fc2e').click() 可以加载啊 |
3
memkey 2017-10-19 12:18:33 +08:00
Input.dispatchMouseEvent
|
5
memkey 2017-10-19 19:37:14 +08:00
|