白票了一个月UCloud P40 GPU主机 功耗只有140W怎么解锁

MasterCard

小猪佩奇 发表于 2025-1-22 21:38
他家同价位不是有T4吗，T4八倍的半精度

gpt告诉我训练用的是全精度 推理才是半精度...
被傻 逼gpt骗了
退不了 只能退0元

小猪佩奇

MasterCard 发表于 2025-1-22 21:56
gpt告诉我训练用的是全精度 推理才是半精度...
被傻 逼gpt骗了
退不了 只能退0元 ...

单精度只是慢，还是有很多拿p40炼丹的

MasterCard

小猪佩奇 发表于 2025-1-22 22:07
单精度只是慢，还是有很多拿p40炼丹的

我是想微调lora模型 应该用单精度还是多精度？
感觉比我笔记本的4070mobile慢1/3
应该是单精度？
我查了下半精 两张卡速度差10倍
但是我的8GB显存很多模型跑不了

小猪佩奇

MasterCard 发表于 2025-1-22 22:13
我是想微调lora模型 应该用单精度还是多精度？
感觉比我笔记本的4070mobile慢1/3
应该是单精度？

一般是混合精度，单精度半精度都有，p40不支持半精度
8g跑图可以，调模型会炸显存