Tags
2 个页面
大模型部署
双卡部署大模型：TP、PP、DP 和 Layer Split 到底有什么区别？
2× RTX 5060 Ti 16GB 能跑 27B 大模型吗？先把显存算清楚