字节跳动 Seed 近日宣布成立“Seed Model-Alignment & Preparedness”部门，由严林负责，向 Seed 负责人吴永辉汇报。原 Responsible AI 团队及部分 Chat 团队成员将转入新部门，进一步加强模型安全与对齐领域的投入。
新部门将重点提升智能体模型（Agent Model）的安全能力，并防范化学、生物、放射及核(CBRN)等前沿能力带来的潜在风险。其工作将覆盖模型规范制定、安全评估体系建设、对齐训练、防护系统搭建及风险监控，并加强与外部研究机构及第三方评测机构的公开合作。
据悉，随着大模型能力和自主性不断增强，模型行为偏离预期、智能体滥用及网络攻击等安全问题受到更多关注。此前，国内大模型团队的安全与对齐工作多纳入企业整体安全合规体系。此次调整意味着 Seed 将安全与对齐作为独立职能进行建设。据相关信息，字节跳动 Seed 是国内首家单独设立安全与对齐部门的前沿AI实验室。
Seed 内部认为，安全与对齐不仅关系到风险防范，也影响模型能否在复杂场景中实现规模化应用。新部门将致力于确保前沿模型在安全规范和授权约束下有效执行任务，并持续降低模型滥用及行为偏离风险，完善面向未知风险的安全体系。
