Google 与 CMU 论文提出 Harmony Harness：多目标进化让自改进智能体保住安全收益

Google 与 Carnegie Mellon 的研究团队在 2026 年 10 月提交 Harmony Harness 相关论文，研究重点是让自改进智能体同时优化任务完成与安全漏洞阻断，关注价值在于缓解能力提升可能伴随安全退化的问题。

• 条目称，研究将通过测试与阻断漏洞拆成不同优化目标，并在推理阶段动态组合。
• 在 SecRepoBench 未见崩溃类型上，论文摘要所述修复中有 66.7% 同时有效并阻断漏洞，初始 harness 为 36.7%。
• 摘要还报告安全收益保留率为 55%，而 DGM 基线为 0%，但这些结果属于特定基准与实验设置。
• 多目标进化能否迁移到不同代码库、威胁模型和真实生产环境，取决于测试覆盖率与安全判据质量。
• 影响/看点：若跨任务和环境仍能保持安全收益，多目标 harness 可能成为自改进智能体的评估组件；若漏洞分布或测试标准变化，论文中的比例未必直接外推。
• 资料依据:
• Harmony Harness 论文原文（2026-10-15）：https://arxiv.org/abs/2610.20182
• Rohan Paul X 帖文（2026-10-15）：https://x.com/rohanpaul_ai/status/2110735411916247523

本内容由 AI 生成，仅供参考，请注意甄别