字节跳动Seed拟设大模型安全与对齐部门

10月13日，记者获悉，字节跳动Seed宣布将成立“Seed Model-Alignment&Preparedness”部门，由严林负责，汇报给Seed负责人吴永辉。原Responsible AI团队及部分Chat团队成员将转入新部门。随着模型能力增强、应用场景复杂化，安全与对齐已成决定模型能否规模化应用的核心能力。部门将围绕模型规范制定、安全评估体系建设、对齐训练、防护系统搭建和风险监控等方向持续投入，并加强与外部研究机构和第三方评测的公开合作，最终使前沿模型在安全与授权约束内有效完成任务，随着模型能力和自主性增强，持续降低滥用及行为偏离风险。（上海证券报快讯）