delia
V2EX  ›  问与答

采集万能宝 1000 条商品的共计 10 万条评论,难么?

  •  
  •   delia · Feb 28, 2020 · 1840 views
    This topic created in 2272 days ago, the information mentioned may be changed or developed.

    就是想针对一些商品的评论,做一些数据分析

    大概需要 1000 个商品,每个商品 100 条的话,就是 10 万条评论,,,,可能更多,因为评论里,很多无效的。

    请问下,难么?

    之前只写过很简单的爬虫,抽取一些简单 html 的文章什么的

    3 replies    2020-02-28 13:21:56 +08:00
    dremy
        1
    dremy  
       Feb 28, 2020 via iPhone
    劝放弃,各种反爬策略会让没有太多经验的小白欲死欲仙
    yujiang
        2
    yujiang  
       Feb 28, 2020 via Android
    反爬已经很先进了,小白建议退坑吧。。。
    Vegetable
        3
    Vegetable  
       Feb 28, 2020
    1000 个而已,你写爬虫的时间,手动+代理已经采集完了
    浏览器+mitmproxy 脚本

    自己刷一天 1000 个肯定能刷完。
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   3255 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 42ms · UTC 11:09 · PVG 19:09 · LAX 04:09 · JFK 07:09
    ♥ Do have faith in what you're doing.