结论:
- 现阶段 4090 能满足 DL 的入门需要,且 LLMs 推理的性价比最高
- 缺点是性能不足够支持 LLMs 训练(通信不高效,显存不够用)
1 GPU 的基本概念
NVIDIA 的三个产品线:
- GeForce 类型:面向个人计算和游戏市场推出的产品线,适用于游戏、图形处理等,并且在深度学习上的表现也非常出色,很多人用来做推理、训练,性价比高。例如目前热门的 4090、3090等型号
- Quadro 类型:定位于专业可视化市场的产品线,主要面向专业人士和企业用户,例如,影视制作、建筑可视化、产品