V2EX = way to explore
V2EX 是一个关于分享和探索的地方
Sign Up Now
For Existing Member  Sign In
• 请不要在回答技术问题时复制粘贴 AI 生成的内容
livc
0D
V2EX  ›  程序员

爬虫某网站最近禁止了国外 IP,想请问下有什么好的办法

  •  
  •   livc ·
    livc · Aug 10, 2020 · 8118 views
    This topic created in 2099 days ago, the information mentioned may be changed or developed.

    我在 vultr 上有个 VPS 专门爬虫一个网站保存成文件,然后提供 web 访问服务。最近发现这个网站的一个接口把境外 IP 都 ban 了,使用国内 IP 访问就没问题。

    目前我的思路是:买一个国内的服务器,专门用来爬虫,爬完保存下来的文件 scp 到 vultr 服务器上。

    这样就是增加了国内服务器的成本,国内服务器又比较贵,不知道大佬有没有更好的解决方案?

    或者买个树莓派?

    40 replies    2020-09-21 17:00:46 +08:00
    biu7
        1
    biu7  
       Aug 10, 2020
    买点代理不行么
    CriseLYJ
        2
    CriseLYJ  
       Aug 10, 2020
    楼上正解
    hugee
        3
    hugee  
       Aug 10, 2020
    原来就是你小子在爬我的站
    livc
        4
    livc  
    OP
       Aug 10, 2020
    @biu7 #1 代理好像更贵吧?有推荐的站吗
    lxk11153
        5
    lxk11153  
       Aug 10, 2020
    原来就是你小子在爬我的站
    biu7
        6
    biu7  
       Aug 10, 2020
    @livc #4 国内代理一般两类,一种直接卖给你短时( 3-5min )有效的 ip,比如几块钱 1000 个之类的,一种是直接转发你的请求,按请求数算钱。可以看下讯代理、阿布云之类的(非广告)
    em70
        7
    em70  
       Aug 10, 2020
    告诉你一个诀窍啊,阿里云有一种抢占式 ECS,才几毛钱一个小时,因为有百分之几的几率会被释放,不适合做长期服务,却是爬虫的天然选择,随用随买,不用就释放
    livc
        8
    livc  
    OP
       Aug 10, 2020
    @biu7 #6 明白了,谢谢
    livc
        9
    livc  
    OP
       Aug 10, 2020
    @em70 #7 我这个是需要每天爬的,得长期用呢
    em70
        10
    em70  
       Aug 10, 2020
    刚帮你看了下,乌兰察布机房最便宜,才 8 分钱一个小时,北京 1 毛 3
    em70
        11
    em70  
       Aug 10, 2020
    @livc 才 3%的释放几率,多买几台
    linuxvalue
        12
    linuxvalue  
       Aug 10, 2020
    代理 ip
    heiheidewo
        13
    heiheidewo  
       Aug 10, 2020
    原来就是你小子在爬我的站
    Soar360
        14
    Soar360  
       Aug 10, 2020
    原来就是你小子在爬我的站
    nightwitch
        15
    nightwitch  
       Aug 10, 2020
    #7 楼的方案不是挺好的。
    每天定时开个阿里云竞价实例,然后爬完释放就可以了
    可以参考以下的
    https://github.com/rockswang/alispot
    murmur
        16
    murmur  
       Aug 10, 2020
    你现在买了境内机房,下次他把各大云的 ip 也禁了
    121121121
        17
    121121121  
       Aug 10, 2020
    代理服务器
    ipoh
        18
    ipoh  
       Aug 10, 2020
    你需要淘宝"ADSL VPS" 每几分钟自动重播一次
    封 ip 也不怕
    natsji
        19
    natsji  
       Aug 10, 2020 via Android
    你用辣鸡阿里清凉云的香港或者新加坡服务器,IP 地址会被很多 ip 库识别成大陆的。
    locoz
        20
    locoz  
       Aug 10, 2020 via Android
    你就不能直接买代理或者在爬的时候开点国内云服务器做代理服务器吗…
    wangyzj
        21
    wangyzj  
       Aug 10, 2020
    我之前的做法是去淘宝上买一个可以随意换 IP 的机器
    pagxir
        22
    pagxir  
       Aug 10, 2020 via Android
    可以用阿里云或者其他云的函数计算的,支持 web 请求,选择国内的节点即可
    newee
        23
    newee  
       Aug 10, 2020 via iPhone
    哪里的海外 ip 比较便宜靠谱,最近抓一个海外站点,访问几百次就会被禁。有啥供应商比较实惠的
    BillowSky
        24
    BillowSky  
       Aug 10, 2020 via iPhone
    人家禁你可能你对人家造成了干扰,要不然也不会费力气禁你。
    abersheeran
        25
    abersheeran  
       Aug 10, 2020
    原来就是你小子在搞事情。
    sunziren
        26
    sunziren  
       Aug 10, 2020
    原来就是你小子在爬我的站
    suuuch
        27
    suuuch  
       Aug 10, 2020 via iPhone
    这个感觉像是你的爬虫对别人照成影响了,换 IP 之后应该会升级反爬,
    shakaraka
        28
    shakaraka  
    PRO
       Aug 10, 2020
    原来就是你小子在爬我的站
    jones2000
        29
    jones2000  
       Aug 10, 2020
    直接买云抓取的服务不就可以了。 还自己爬多麻烦。
    adoula
        30
    adoula  
       Aug 10, 2020
    一般不是国外服务器比较贵吗
    smplesugar
        31
    smplesugar  
       Aug 10, 2020
    原来就是你小子在爬我的站
    zhiiker
        32
    zhiiker  
       Aug 10, 2020
    用爬虫 IP 代理池服务
    https://www.abuyun.com/
    https://www.zdaye.com/ShortProxy.html
    量大的化,平均下很便宜
    unclemcz
        33
    unclemcz  
       Aug 10, 2020
    淘宝买个玩客云,50 包邮,刷成 armbian 然后跑爬虫,功耗 6-10 瓦吧。
    不多说了,再说又止不住手打开淘宝买一个了。
    g079708
        34
    g079708  
       Aug 10, 2020 via iPhone
    可以试试这个,独享拨号代理 IP 池;
    http://www.kuainiaoip.com/store/exclusive-adsl.html
    h4de5
        35
    h4de5  
       Aug 10, 2020
    github 上面大把的免费的国内的机器。你不拿来用。很多大佬都拿来挖矿了。
    ClericPy
        36
    ClericPy  
       Aug 10, 2020
    这么在乎价格成本的话... 白瓢免费代理吧, 选普匿和高匿的, 然后走生产者消费者模式, 慢慢抓慢慢跑
    HYisen
        37
    HYisen  
       Aug 11, 2020
    买个树莓派吧,蹭家用网络是真的便宜。
    woodnaonly
        38
    woodnaonly  
       Sep 21, 2020
    @h4de5 关键字是什么
    woodnaonly
        39
    woodnaonly  
       Sep 21, 2020
    @wangyzj 老哥来个关键字
    wangyzj
        40
    wangyzj  
       Sep 21, 2020
    @woodnaonly #39 vps
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   3174 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 105ms · UTC 03:04 · PVG 11:04 · LAX 20:04 · JFK 23:04
    ♥ Do have faith in what you're doing.