Chatgpt的算力分配机制有点奇怪

lewissue

Sam_Edward 发表于 2024-10-18 20:39
我说的是o1-mini，4o已经很烂了，gpt4o-mini比我想象的更烂，我从来没用过这个；

o1-mini每天team+个人 ...

啊，o1mini目前不降智吧，可能是模型随机性造成的错觉。这个东西不是传统的生成式AI，有很多层隐含CoTAI，多刷几次回答吧

我是老王

Sam_Edward 发表于 2024-10-18 20:18
不像，我现在是全英文对话，ip是美国家宽

和频率有关，短时间多次提问就是弱智，间隔时间拉长5-10分钟以上会好一些

Sam_Edward

lewissue 发表于 2024-10-18 20:44
啊，o1mini目前不降智吧，可能是模型随机性造成的错觉。这个东西不是传统的生成式AI，有很多层隐含CoTAI ...

没感觉降智，只是感觉算力被抢走了，比如输出了一部分内容，有时候后续直接卡住了，也可能和我内容太长有关系，但是我也没要它生成那么长的，它自己卡住了

lewissue

Sam_Edward 发表于 2024-10-18 20:47
没感觉降智，只是感觉算力被抢走了，比如输出了一部分内容，有时候后续直接卡住了，也可能和我内容太长有 ...

o1不是一次性输出吗？它不支持流式啊

Sam_Edward

我是老王 发表于 2024-10-18 20:46
和频率有关，短时间多次提问就是弱智，间隔时间拉长5-10分钟以上会好一些 ...

好像没有降智，就是直接卡住不动了

我是老王

Sam_Edward 发表于 2024-10-18 20:51
好像没有降智，就是直接卡住不动了

直接卡住了 是网络问题的概率大，也可能跳验证了 没有弹出来

Sam_Edward

lewissue 发表于 2024-10-18 20:49
o1不是一次性输出吗？它不支持流式啊

o1 mini是一次性输出，结果是有时候输出一半，直接卡在那里不输出了

或者最后快结束了也卡住了，搞不懂

Sam_Edward

我是老王 发表于 2024-10-18 20:53
直接卡住了 是网络问题的概率大，也可能跳验证了 没有弹出来

不会，我的网络测试了还是很稳的，没有波动

lewissue

Sam_Edward 发表于 2024-10-18 20:53
o1 mini是一次性输出，结果是有时候输出一半，直接卡在那里不输出了

或者最后快结束了也卡住了，搞不懂

确实奇怪，想不到什么原因。

Sam_Edward

lewissue 发表于 2024-10-18 20:55
确实奇怪，想不到什么原因。

就像干活干到一半，人走了，所以我怀疑有大户抢算力了；企业用户的优先级肯定是比我们普通用户高的，有的隐性的东西谁都不知道