字节跳动Seed成立大模型安全与对齐部门，强化AI安全能力

近日，字节跳动Seed发布内部邮件，宣布成立“Seed Model-Alignment&Preparedness”部门，由严林负责，直接向Seed负责人吴永辉汇报。原Responsible AI团队及部分Chat团队成员将转入新部门。该部门成立的主要目的是加强大模型安全与对齐方向的投入，确保模型行为与人类意图和安全约束保持一致。

随着大模型安全风险日益凸显，智能体逃逸引发的网络攻击等事件频繁发生。字节跳动Seed成为国内首家单独成立安全与对齐部门的前沿AI实验室。Seed团队认为，随着模型能力和应用场景的复杂化，安全与对齐已不仅是风险防范，更是决定模型能否规模化应用的核心能力。

据悉，Seed安全与对齐部门将围绕模型规范制定、安全评估体系建设、对齐训练、防护系统搭建和风险监控等方面持续投入。同时，部门将加强与外部研究机构和第三方评测的公开合作，以确保前沿模型在安全与授权约束内有效完成任务。随着模型能力和自主性的增强，Seed安全与对齐部门将持续降低滥用及行为偏离风险，建立面对未知风险的全面安全体系。

来源：雷峰网

> 本文基于公开报道整理编辑，版权归原作者所有。如有异议请联系我们，查实后立即删除。