最新下载
热门教程
- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9
- 10
Deepseek V4 Prefill-Decode分离测试一
时间：2026-07-25 10:27:58 编辑：袖梨 来源：一聚教程网
节点1和节点2成功使用vllm拉起prefill服务
curl测试能相应。先把Prefill跑起来，没有Decode节点也是能跑的。
今天再次测试发现，这两台实际是按照独立实例在各跑各的，没有形成集群。一步一步来，从简单到复杂。不然就是几千条的报错。
本文参与腾讯云自媒体同步曝光计划，分享自微信公众号。原始发表：2026-06-14，如有侵权请联系[email protected] 删除