V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
tikazyq
V2EX  ›  Node.js

求助:百度文库抓取问题

  •  
  •   tikazyq · 2017-10-19 11:38:03 +08:00 · 4103 次点击
    这是一个创建于 2577 天前的主题,其中的信息可能已经有所发展或是发生改变。

    最近抓取百度文库时遇到问题。试图用 casperjs 来抓取百度文库文章,对方采用了分页,要获取全部文章内容,必须爬完每一个分页。

    最先处理分页的方式是直接在 URL 中加入页面后缀,例如 https://wk.baidu.com/view/f75735e5a8956bec0875e353#6,代表第 6 页,以此类推。但尝试过后发现不行,服务器有时返回第 1 页内容。

    现在尝试模拟点击来获取分页,but。。。问题又来了,chrome console 中利用 jquery,或在 casperjs 中 click “下一页”、“继续阅读”等元素都不能生效,但是,其他元素例如左上方的“百度文库”可以却可以 click 生效。我怀疑是不是百度文库采用了什么方法来防止模拟点击,所以点击不能生效。

    文章地址: https://wk.baidu.com/view/f75735e5a8956bec0875e353

    请各位大大们指点指点!

    5 条回复    2017-10-19 19:37:14 +08:00
    knva
        1
    knva  
       2017-10-19 11:49:09 +08:00
    没用过 casperjs
    但是
    console 中输入
    $('.fc2e').click()
    可以加载啊
    tikazyq
        2
    tikazyq  
    OP
       2017-10-19 11:56:29 +08:00
    @knva 是移动端的页面,界面不一样的
    memkey
        3
    memkey  
       2017-10-19 12:18:33 +08:00
    Input.dispatchMouseEvent
    tikazyq
        4
    tikazyq  
    OP
       2017-10-19 15:34:26 +08:00
    @memkey 具体在页面中该如何操作呢?
    memkey
        5
    memkey  
       2017-10-19 19:37:14 +08:00
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   3092 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 23ms · UTC 10:48 · PVG 18:48 · LAX 02:48 · JFK 05:48
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.