不限于参数大小
1
zzutmebwd 2 days ago 没有 nvlink 的最强是 pro6000 ,下面是 5090/4090 48g/4090/4080 32g 。有 nvlink 的不了解。
|
2
zzutmebwd 2 days ago
你如果说千亿参数在线 api 的话,h100 h200 b200 等的群集。
|
3
clemente 2 days ago
b200
|
4
zzutmebwd 2 days ago
@zzutmebwd 对了,有个 pro6000d 84g ,合规阉割版,算力是不如 5090 的,但差不太多,如果四万多点能买到的话还是不错的,大显存省事儿很多。
|
5
robyn87leonard 2 days ago
l20
|
6
raycool 2 days ago
H200 B200 这些吧。
不过我还在用 4090 |
7
v2exgo 2 days ago
b300
|
9
JmHappy 2 days ago
B300 集群,有 FP4 模块的都行
|
11
oldAndy 2 days ago
H100 H200 B200
|
12
xiaomushen 2 days ago
pro6000 真的爽,本地做一些 bert 训练完全够用
|
13
zzutmebwd 2 days ago
@xiaomushen 10 万了哥,现在买不划算了
|
14
xiaomushen 2 days ago
@zzutmebwd 我 7 万多买的
|
15
zzutmebwd 2 days ago
8000 刀才是合理价,我 6 万买的都嫌贵。
@xiaomushen |
16
liuxyon 2 days ago
哪里有合理价格卖
|
17
coefu 2 days ago
要是能买到,amd 的 mi 系列,可能会更好点。
|
18
xiaomushen 2 days ago
@zzutmebwd 没办法呀,国内对公,只能吃这个价。现在都快 10 万了
|
19
nrtEBH 2 days ago
最强当然是 GB200 GB300 组的大集群
从行业内看各种尺寸的都有 还包括魔改显存的 4090 5090 |