我大段文本，gpt-4o 3 秒左右就能返回，国内比如智谱清言，文心一言就要 10 秒多才能返回，有没有知道原因啊，真难搞
This topic created in 734 days ago, the information mentioned may be changed or developed.
 |
1
kyor0 May 22, 2024 via iPhone
这不正常么
|
 |
2
jr55475f112iz2tu May 22, 2024
虽然 4o 本身就是牺牲质量换速度
但除了技术比不过，你觉得还能有什么其他影响因素？ |
 |
3
TheJustin May 22, 2024
老黄专程送 H200 给奥特曼，国内还在用上一代的阉割算力，阉割不说，数量还跟不上……
|
 |
4
Antihank May 22, 2024
体会到了登子扼颈的窒息吧
|
|
5
ktqFDx9m2Bvfq3y4 May 22, 2024
还有就是人才的意愿问题，如果给人才一个选择的机会，去美或中，答案就是原因。
|
 |
6
ronyin May 22, 2024
百度文心一言还有人用么。。
|
 |
7
pi7m1Dr691wfl95q May 22, 2024  8
gpt-4o sleep()写太小了
|
 |
8
weijancc May 22, 2024
我目前对比了所有国内 AI 产品,抖音的豆包和讯飞的 AI 比较快, 但是训分的 UI 太丑了.. 抖音的回答质量会稍微弱一点, 但是够用了.
|
 |
9
kenvix May 22, 2024
没钱
实际上你自己部署开源的国内大模型就会发现速度也很快的...比如阿里 Qwen1.5 |
 |
10
Retas May 22, 2024 via iPhone
moonshot 基本秒回
|
 |
11
yiwanjidanmian OP @Retas 那我试试
|
 |
13
ardour May 22, 2024
算力都不在一个级别
|
 |
15
JoeDH May 22, 2024
国内的那回复都是一个一个字返回来的，gpt 的是一大段直接吐出来给你
|
 |
16
Donaldo May 22, 2024
没钱 没卡
|
|
17
kenvix May 22, 2024
@eastjoehan #15 你这说的，哪个 LLM 不是 token by ken ？
|
 |
18
wweerrgtc May 22, 2024
也许是需要审核 输入和输出的内容
|
 |
19
zhangdp May 22, 2024 3
可能需要分析审核内容耗时了，不允许违法的特别的反动的词语
|
 |
20
macaodoll May 22, 2024 via Android
问就是制裁没显卡，
|
 |
21
yinmin May 23, 2024 via iPhone
试试：海螺 ai 、通义 ai 、零一万物 ai 、deepseek v2 ，都是很快的。
|
Select Language