用A100跑最新的DeepSeek V4.1 Flash，6张卡才跑出33 tok/s，最后只用4张卡反而干到了并行吞吐

用A100跑最新的DeepSeek V4.1 Flash，6张卡才跑出33 tok/s，最后只用4张卡反而干到了并行吞吐1400+ tok/s，比DeepSeek官方API还快三倍多，这篇文章的质量高得吓人。

A100是六年前的数据中心GPU，现在算“老古董”了。一开始Claude

shi3z @shi3z 書いた 1万字超えた/ DeepSeek v4.1 Flashを動かしたくてFP4に対応していないA100を、33tok/sから673 tok/sまで持っていって気がつくと公式APIより速くなっていた話｜shi3z @shi3z

原链接