#多卡通信
共 1 篇文章
B300 部署 GLM-5.2-FP8 实测:这机器贵得离谱又难买,但我们真搞来一台 8 卡跑了一遍
B300稀缺昂贵,但作者实测8卡部署GLM-5.2-FP8。核心结论:B300部署需驱动、Fabric Manager、CUDA 13、网络栈、推理框架全链路匹配,不能简单替换旧卡。实测得到SGLang后端吞吐数据,适用于企业选型评估生产环境部署风险。

共 1 篇文章
B300稀缺昂贵,但作者实测8卡部署GLM-5.2-FP8。核心结论:B300部署需驱动、Fabric Manager、CUDA 13、网络栈、推理框架全链路匹配,不能简单替换旧卡。实测得到SGLang后端吞吐数据,适用于企业选型评估生产环境部署风险。
