首页看点啥 Deepseek V4 Prefill-Decode分离测试1

Deepseek V4 Prefill-Decode分离测试1

2026-07-28 0

节点1和节点2成功使用vllm拉起prefill服务

curl测试能相应。先把Prefill跑起来，没有Decode节点也是能跑的。

今天再次测试发现，这两台实际是按照独立实例在各跑各的，没有形成集群。一步一步来，从简单到复杂。不然就是几千条的报错。

本文参与腾讯云自媒体同步曝光计划，分享自微信公众号。原始发表：2026-06-14，如有侵权请联系[email protected] 删除

郑重声明：本站发布内容宗旨在传播更多信息，仅提供查阅，与本站立场无关，不拥有所有权，不承担相关法律责任。不具有任何效益，仅供参考。如果需要专业知识建议，请咨询相关专业人士。如有侵权请联系邮箱。一经查实，立即删除！

喜欢(0)

并发控制在50左右：性能还是可以

HCCL 同交换机下的2机与4机测试