duanrancosmos
V2EX  ›  Local LLM

求助,做 AI 深度学习服务器跑大模型推理,选 RTX5080*2 还是一张 4090

  •  
  •   duanrancosmos · Feb 12, 2025 · 2022 views
    This topic created in 463 days ago, the information mentioned may be changed or developed.

    价格来去基本不大,5080 一张显存 16G ,4090 一张 24G 。到底选哪个好,好纠结

    6 replies    2025-02-14 13:45:46 +08:00
    liu731
        1
    liu731  
    PRO
       Feb 12, 2025
    4090 保值率高点
    yplam
        2
    yplam  
       Feb 12, 2025 via Android
    双卡之间带宽是瓶颈,速度比单卡慢不少,并且用双卡跑要折腾,建议单卡 5090
    Yadomin
        3
    Yadomin  
       Feb 12, 2025
    4090 48G
    murmur
        4
    murmur  
       Feb 12, 2025
    4090 48 好像新改的,据说只有 linux 能发挥出来,前期还是慎入
    sorry
        5
    sorry  
       Feb 12, 2025
    选显存大的
    Gnihton
        6
    Gnihton  
       Feb 14, 2025
    @murmur windows 下一样的
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   5495 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 57ms · UTC 06:44 · PVG 14:44 · LAX 23:44 · JFK 02:44
    ♥ Do have faith in what you're doing.