Deepseek R1 671b on a $500 AI PC!
u2b t_hh2-KG6Bw有大佬懂 这671B 有水分吗？ 怎么可能，内存都不够吧 doruison 发表于 2025-5-18 19:53
怎么可能，内存都不够吧
t_hh2-KG6Bw
这么快看完了？ 本帖最后由 dd998 于 2025-5-18 20:37 编辑
是Q4量化版，压根就不是满血版。
看他视频里面屏幕显示的只有 0.75 token/s
很慢的，一个字一个字的蹦，无实用价值啊。
比之前清华大学那个在个人笔记本电脑上装的deepseek号称满血版稍微快点。
但是还是没法用。 dd998 发表于 2025-5-18 20:32
是Q4量化版，压根就不是满血版。
看他视频里面屏幕显示的只有 0.75 token/s
慢点是真满血版，无非是慢点，结果是对的
int4量化，或者小参数版本，可能结果都对不上
页:
[1]