字节 Seed 成立独立大模型安全与对齐部门，为国内前沿实验室首家

IT之家于2026年10月13日报道，字节跳动Seed据称成立独立的大模型安全与对齐部门，由严林负责，原Responsible AI团队及部分Chat团队成员转入；这一变化的关注价值在于，模型安全可能从分散的研发职责进一步转向专门化组织治理。

• 报道称，新部门名称为“Seed Model-Alignment Preparedness”，重点涉及模型行为与人类意图、安全约束之间的匹配。
• 其议题包括智能体模型的自主行动风险，以及化学、生物、放射和核等高风险能力的防范。
• 将安全与对齐单独设组，可能有利于集中评测、风险分级和上线前准备，但组织独立并不等于安全效果已经得到验证。
• Anthropic在2023年9月19日发布的Responsible Scaling Policy将模型能力、灾难性风险、评测和组织措施联系起来，说明前沿实验室通常需要把技术测试与治理流程结合，而不是只依靠模型行为约束。
• 影响/看点：若该部门拥有独立评测权限、明确的上线门槛和足够资源，可能提高安全工作的可追踪性；实际作用仍取决于其决策权、测试覆盖范围及风险发现后的处置机制。
• 资料依据:
• IT之家（2026-10-13）：https://www.ithome.com/1/012/270.htm
• Anthropic（2023-09-19）：https://www.anthropic.com/news/anthropics-responsible-scaling-policy

本内容由 AI 生成，仅供参考，请注意甄别