港科大发ICML'26：MoE路由脆弱，重复token输入阻塞负载均衡

港科大研究发现MoE模型的专家路由存在系统级漏洞，重复token输入可导致负载失衡，显著拖慢响应速度。

• 研究提出RepetitionCurse攻击方法：利用高度重复的输入模式，使连续token的表示高度相似，导致路由将大量token集中到同一批专家，造成GPU负载不均。
• 在8-GPU Expert Parallelism部署下，攻击可使Mixtral-8x7B的TTFT（首token延迟）增加20%至148%，Qwen3-30B-A3B在32-GPU下增加115%。
• 攻击无需模型权重或梯度，黑盒即可执行；它不控制输出内容，而是通过破坏prefill阶段的计算效率来拖慢服务。
• 更严重的是，攻击请求可“搭车”影响同batch的正常请求，并占用prefill能力导致后续请求排队，SLA违约率从1%升至最高13.6%。
• 研究还发现MoE中存在“脆弱专家”，它们像吸引子一样稳定地吸引重复token，成为攻击的落点。
• 影响/看点：该工作揭示了MoE服务在系统层的安全盲区，提醒业界在追求高效推理的同时，需防范针对路由机制的拒绝服务攻击。

本内容由 AI 生成，仅供参考，请注意甄别