大模型分布式训练研究员

3 weeks ago

Beijing, China Lenovo Full time

Description and Requirements

岗位职责：

1.负责深度学习大模型的分布式训练系统的架构设计与开发，优化模型训练效率和资源利用率；

2.研究并实现基于GPU等高性能计算平台的大规模深度学习模型并行训练算法；

3.对现有深度学习框架和分布式训练框架（如PyTorch、TensorFlow、DeepSpeed、Colossal-AI，megatron）进行深度定制和扩展，以满足大规模模型训练的需求；

4.与算法团队紧密合作，解决在超大规模数据集上模型训练过程中的性能瓶颈问题；

5.设计并实现模型训练监控系统，包括但不限于训练进度、资源占用情况、训练效果可视化等；

6.持续跟踪最新的分布式训练技术发展趋势，将前沿研究成果应用于实际项目中。


任职要求：

1.计算机科学或相关专业硕士及以上学历，具有3年以上深度学习领域工作经验，有大型互联网公司或者AI实验室工作经验者优先；

2.熟练掌握至少一种深度学习框架和分布式训练框架（如PyTorch、TensorFlow），并具备丰富的模型开发与训练经验；

3.精通分布式系统原理，熟悉常见的分布式计算框架（如MPI、DeepSpeed、Colossal-AI、OneFlow），有大规模并行计算和分布式训练系统开发经验；

4.具备良好的算法基础，对深度学习模型训练优化有深入理解和实践经验，包括但不限于梯度压缩、通信优化、异步训练等；

5.有大模型分布式训练理论和实践经验，熟悉国内外主流基础大模型;

6.具备优秀的分析和解决问题的能力，能够独立进行复杂问题定位与解决；

7.对于计算机体系结构、操作系统、网络编程等相关知识有一定理解；

8.英语读写能力强，能快速阅读英文文献和技术文档，追踪国际最新研究动态和技术趋势。


加分项：

1.在顶级会议或期刊（如NIPS, ICML, ICLR, JMLR等）发表过关于分布式训练或深度学习相关论文；

2.参与过开源分布式训练项目，并有显著贡献。

Additional Locations : * China - Beijing - 北京（Beijing） * China * China - Beijing * China - Beijing - 北京（Beijing）

  • 大模型算法工程师

    3 weeks ago

    Beijing, China Tencent Full time

    大模型算法工程师 北京 分享 分享岗位 方式1:复制岗位链接 方式2:分享岗位海报 手机扫描二维码分享 收藏 PCG 点击了解更多BG信息 技术 两年以上工作经验 更新于年03月28日 ...

  • 混元深度学习框架高级研发工程师(大模型预训练)

    1 week ago

    Beijing, China Tencent Full time

    混元深度学习框架高级研发工程师(大模型预训练) 北京 分享 分享岗位 方式1:复制岗位链接 方式2:分享岗位海报 手机扫描二维码分享 收藏 TEG 点击了解更多BG信息 技术 五年以上工作经验 更新于年05月07日 岗位职责 ...

  • 微信NLP算法研究员(北京/深圳/上海)

    3 weeks ago

    Beijing, China Tencent Full time

    微信NLP算法研究员(北京/深圳/上海) 北京 分享 分享岗位 方式1:复制岗位链接 方式2:分享岗位海报 手机扫描二维码分享 收藏 WXG 点击了解更多BG信息 技术 两年以上工作经验 更新于年04月17日 岗位职责 1.参与大规模 AI...

  • 混元大模型算法工程师

    7 days ago

    Beijing, China Tencent Full time

    混元大模型算法工程师 北京 分享 分享岗位 方式1:复制岗位链接 方式2:分享岗位海报 手机扫描二维码分享 收藏 TEG 点击了解更多BG信息 技术 两年以上工作经验 更新于年05月10日 岗位职责 ...

  • 机器学习训练平台专家工程师(广告模型平台)

    3 weeks ago

    Beijing, China Tencent Full time

    机器学习训练平台专家工程师(广告模型平台) 北京 分享 分享岗位 方式1:复制岗位链接 方式2:分享岗位海报 手机扫描二维码分享 收藏 TEG 点击了解更多BG信息 技术 五年以上工作经验 更新于年03月19日 岗位职责 ...

  • 机器学习训练平台专家工程师(广告模型平台)

    1 day ago

    Beijing, China Tencent Full time

    机器学习训练平台专家工程师(广告模型平台) 北京 分享 分享岗位 方式1:复制岗位链接 方式2:分享岗位海报 手机扫描二维码分享 收藏 TEG 点击了解更多BG信息 技术 五年以上工作经验 更新于年05月16日 岗位职责 ...

  • QQ#多模态内容理解高级算法研究员#

    2 weeks ago

    Beijing, China Tencent Full time

    QQ#多模态内容理解高级算法研究员# 北京 分享 分享岗位 方式1:复制岗位链接 方式2:分享岗位海报 手机扫描二维码分享 收藏 PCG 点击了解更多BG信息 技术 不限 更新于年05月04日 岗位职责 ...

  • 广告大模型算法工程师（深圳/北京）

    3 weeks ago

    Beijing, China Tencent Full time

    广告大模型算法工程师（深圳/北京） 北京 分享 分享岗位 方式1:复制岗位链接 方式2:分享岗位海报 手机扫描二维码分享 收藏 CDG 点击了解更多BG信息 技术 两年以上工作经验 更新于年03月20日 岗位职责 ...

  • 机器学习研究员

    3 weeks ago

    Beijing, China Lenovo Full time

    Description and Requirements 工作内容： 工作包括但不限于 •参与机器视觉模型（CV），机器视觉语言模型（VLM），以及大语言模型（LLM）的研发。 •CV和LLM模型量化压缩技术的研发，实现模型的小型化。 ...

  • #分析套件大模型应用算法高级工程师#

    3 weeks ago

    Beijing, China Tencent Full time

    #分析套件大模型应用算法高级工程师# 北京 分享 分享岗位 方式1:复制岗位链接 方式2:分享岗位海报 手机扫描二维码分享 收藏 PCG 点击了解更多BG信息 技术 三年以上工作经验 更新于年04月29日 岗位职责 ...

  • 研究模型饲养- 支持类-DIRECT LABOR 1

    3 weeks ago

    Beijing, China Charles River Laboratories, Inc. Full time

    近七十年来，查尔斯河员工一起努力协助新药治疗的发现，开发和安全生产。当您加入我们的家庭时，您将对全球人民的健康和福祉产生重大影响。无论您的背景是生命科学，金融，IT，销售还是其他领域，您的技能将在我们所执行的工作中发挥重要作用。作为回报，我们...

  • 向量存储及搜索高级研究员

    1 day ago

    Beijing, China Lenovo Full time

    Description and Requirements 向量数据库是业界公认的大模型RAG（Retrieval Augmented Generation）框架中的核心组件，为大模型提供记忆、推理加速、跨模态支持等。研究院以自研分布式存储为底座，打造面向企业的高性能向量存储及搜索系统，支撑联想混合AI战略。 工作职责： ...

  • 读书产品部算法研究员

    1 week ago

    Beijing, China Tencent Full time

    读书产品部算法研究员 北京 分享 分享岗位 方式1:复制岗位链接 方式2:分享岗位海报 手机扫描二维码分享 收藏 WXG 点击了解更多BG信息 技术 两年以上工作经验 更新于年05月07日 岗位职责 ...

  • 自然语言理解开发研究员（检索增强方向）

    3 weeks ago

    Beijing, China Lenovo Full time

    Description and Requirements 职位描述： 1. 深入研究LLM时代下的检索增强技术，包括但不限于知识库的构建、召回算法、排序模型以及Agent系统的设计与优化，优化搜索效率与准确性； 2....

  • 机器学习后台开发工程师(广告模型平台)

    3 weeks ago

    Beijing, China Tencent Full time

    机器学习后台开发工程师(广告模型平台) 北京 分享 分享岗位 方式1:复制岗位链接 方式2:分享岗位海报 手机扫描二维码分享 收藏 TEG 点击了解更多BG信息 技术 三年以上工作经验 更新于年02月28日 岗位职责 ...

  • AI技术研究员(J17696)

    1 week ago

    Beijing, China Digital China Full time

    工作职责 ...

  • QQ-AIGC文生图高级算法研究员

    2 weeks ago

    Beijing, China Tencent Full time

    QQ-AIGC文生图高级算法研究员 北京 分享 分享岗位 方式1:复制岗位链接 方式2:分享岗位海报 手机扫描二维码分享 收藏 PCG 点击了解更多BG信息 技术 三年以上工作经验 更新于年05月04日 岗位职责 ...

  • 机器学习高级后台研发工程师(推理平台方向)

    3 weeks ago

    Beijing, China Tencent Full time

    机器学习高级后台研发工程师(推理平台方向) 北京 分享 分享岗位 方式1:复制岗位链接 方式2:分享岗位海报 手机扫描二维码分享 收藏 TEG 点击了解更多BG信息 技术 三年以上工作经验 更新于年03月29日 岗位职责 ...

  • 多模态资深算法工程师

    4 weeks ago

    Beijing, China Tencent Full time

    多模态资深算法工程师 北京 分享 分享岗位 方式1:复制岗位链接 方式2:分享岗位海报 手机扫描二维码分享 收藏 PCG 点击了解更多BG信息 技术 两年以上工作经验 更新于年04月18日 岗位职责 ...

  • 多模态资深算法工程师

    1 day ago

    Beijing, China Tencent Full time

    多模态资深算法工程师 北京 分享 分享岗位 方式1:复制岗位链接 方式2:分享岗位海报 手机扫描二维码分享 收藏 PCG 点击了解更多BG信息 技术 两年以上工作经验 更新于年05月17日 岗位职责 ...