字节跳动旗下大模型研发团队Seed日前通过内部邮件公布最新一轮组织调整方案，将新设独立的大模型安全与对齐专项部门，部门英文官方名称为Seed Model-Alignment&Preparedness。
PChome 10月14日消息，字节跳动旗下大模型研发团队Seed日前通过内部邮件公布最新一轮组织调整方案，将新设独立的大模型安全与对齐专项部门，部门英文官方名称为Seed Model-Alignment&Preparedness。
新部门由严林出任负责人，直接向Seed业务负责人吴永辉汇报，人员配置上，原Responsible AI团队全体成员将转入新部门，同时还有部分来自Chat团队的相关成员加入。
据了解，设立该部门的核心目的是加强大模型安全与对齐方向的投入力度。其中模型对齐的核心，是让大模型的行为输出始终与人类真实意图和安全约束要求保持一致，新部门的具体工作方向包括提升智能体模型的安全能力，以及防范化学、生物、放射、核（即CBRN）等前沿AI能力对应的风险。
从国内行业现状来看，此前大模型研究团队的安全与对齐相关工作，大多被纳入公司整体的安全合规体系统筹推进，并未设置独立部门。此次调整落地后，字节跳动Seed也成为国内首家单独设立大模型安全与对齐部门的前沿AI实验室。
