klklklkl
V2EX  ›  Google

如何批量抓取谷歌搜索每项结果的链接页面

  •  
  •   klklklkl · Jun 28, 2016 · 3808 views
    This topic created in 3619 days ago, the information mentioned may be changed or developed.

    不是谷歌的结果页面,是结果页面里每个链接点进去的第一个页面抓取, page only 或者文本都行。

    请问如何实现,谢谢!

    5 replies    2016-06-29 09:02:03 +08:00
    knightdf
        1
    knightdf  
       Jun 28, 2016
    提取链接跟进抓取啊
    klklklkl
        2
    klklklkl  
    OP
       Jun 28, 2016
    @knightdf
    谢谢,我用 GScraper 抓去了链接,请问有什么简便的方法在 win7 下批量根据抓取的链接下载页面?
    ho121
        3
    ho121  
       Jun 28, 2016 via Android
    太频繁会输验证码的
    suduo1987
        4
    suduo1987  
       Jun 29, 2016
    按照你的频率 ,可以考虑 google apps script
    knightdf
        5
    knightdf  
       Jun 29, 2016
    @klklklkl 把链接再丢到任务队列里去
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   5375 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 36ms · UTC 05:54 · PVG 13:54 · LAX 22:54 · JFK 01:54
    ♥ Do have faith in what you're doing.