大模型预训练科学家 / 工程师

Large Model Training Scientist / Engineer（Pre-training）

岗位描述

你将参与科学领域基础大模型的研究与工程开发，围绕模型架构探索、训练稳定性调优、大规模训练性能优化等问题开展工作。成果将融入 AI for Science 研发链路，完成数据—训练—评测的持续迭代，产出可落地的模型成果。

研究方向

• Large Language Model Pre-training

• Vision-Language Model Training

• Multimodal Foundation Models

• Diffusion Model Training

• Model Architecture Exploration

• Distributed Large-scale Training

• Training Performance Optimization

• AI for Science

岗位职责

• 模型训练与架构：负责科学大模型预训练全链路研发；面向科学场景开展模型架构探索与验证，包括统一多模态架构等方向；完成训练任务搭建、稳定性排查与性能调优，持续提升基座模型能力。

• 数据与评测：负责科学领域高质量数据的合成、清洗与构建；搭建面向科学任务的多维度评测基准，以评测结果驱动模型迭代。

• 大规模训练：参与分布式训练系统搭建与优化，提升 GPU 利用率、训练吞吐、稳定性和实验迭代效率。

• 研究探索：持续跟进 Foundation Model、Multimodal Model、Unified Architecture 等前沿方向，并将研究进展快速转化为可验证的模型实验。

我们希望你

• 本科及以上学历，计算机、人工智能、数学或相关理工科专业；

• 具备扎实的深度学习与大模型基础，有 LLM / VLM / Diffusion 预训练项目落地经验，并能提供可验证的结果，如指标、报告、论文或开源项目；

• 熟悉 PyTorch，熟练使用 DeepSpeed、Megatron-LM 等大规模分布式训练框架；

• 了解统一多模态 / 统一架构，有 BAGEL 等相关模型的调研、复现或改造经验者优先；

• 对 AI for Science 有长期兴趣，能够独立推进训练任务和模型实验。

加分项

• 有模型架构创新或统一多模态架构方向的研究 / 工程实践；

• 有大规模训练稳定性治理、吞吐优化、显存优化或故障定位经验；

• 有科学任务评测基准建设经验；

• 有高水平会议或期刊论文；

• 有高质量开源贡献；

• 有 AI 相关竞赛获奖经历。