世界纪录，Qwen 3.8 27B 单台 125 token 经过昨天一晚上的调优，懒猫 AI 算力仓单台跑
世界纪录，Qwen 3.8 27B 单台 125 token
经过昨天一晚上的调优，懒猫 AI 算力仓单台跑 Qwen 3.8 27B 的性能测试结果：prefill速度 3754 TPS（思考更快），长代码解码速度 125 TPS（写代码更快），八会话代码解码速度 231 TPS（性能压榨到极限），显存占用 70GB
Qwen 3.8 27B
Andy Stewart @manateelazycat 市场部让我放血做公司7周年庆典活动
懒猫AI算力舱是英伟达Thor T5000芯片，2070T算力，128GB显存， 273GB显存带宽，100GB光口并联2台可以跑 DeepSeek V4 Flash FP4, 单会话速度 50 ~ 70 tokens/s , 可以跑多会话，1M模型上下文 （320K ~ 352K KV上下文）。 单台轻松跑 MiniMax H3 和 Qwen 3.8 27B
