混元深度学习框架高级研发工程师(大模型预训练)

4 months ago

Beijing, China Tencent Full time
混元深度学习框架高级研发工程师(大模型预训练) 北京 分享

分享岗位

方式1:复制岗位链接

方式2:分享岗位海报

手机扫描二维码分享

收藏 TEG 点击了解更多BG信息 技术 五年以上工作经验 更新于年05月07日 岗位职责 1.参与开发优化大模型训练框架，支持单任务万卡以上规模高效稳定训练；2.参与NLP、多模态大模型结构设计，并联合业务进行模型训练效率和效果验证；3.参与文生图、文生视频、文生3D等业务的训练性能加速；4.参与低精度训练性能优化和业务推广、参与大窗口训练性能优化。 岗位要求 1.熟练使用PyTorch框架，可对DDP训练的代码进行性能分析和优化；2.熟练使用主流大模型训练框架DeepSpeed、Megatron，掌握3D并行、ZeRO机制、Flash-Attn等的原理、使用场景、优劣势以及可优化方向；3.有ViT、SD、DiT模型训练性能优化经验者优先；4.熟练掌握CUDA性能优化手段，有算子编写优化项目经验者优先；5.对大模型前沿技术比较敏锐者优先；6.有实际大模型的训练调参和效果评测项目经验的优先；7.良好的沟通能力、解决问题能力。 机器学习平台部负责腾讯“太极”机器学习平台的建设，构建面向搜索、广告、推荐的稀疏大模型、大语言模型及稠密大模型和通用机器学习的平台能力，为腾讯广告，微信搜索、社交、游戏、金融、云等多个业务提供易用、高效的一站式机器学习平台服务。我们的技术包括但不限于预训练大模型框架、高性能参数服务器、CPU/GPU 训练和推理加速、图神经网络、NLP自然语言处理、搜索工程与算法等。

  • 混元大模型算法工程师

    4 months ago

    Beijing, China Tencent Full time

    混元大模型算法工程师 北京 分享 分享岗位 方式1:复制岗位链接 方式2:分享岗位海报 手机扫描二维码分享 收藏 TEG 点击了解更多BG信息 技术 两年以上工作经验 更新于年05月29日 岗位职责 ...

  • 大模型分布式训练研究员

    3 months ago

    Beijing, China Lenovo Full time

    Description and Requirements ...

  • 机器学习高级后台研发工程师(推理平台方向)

    4 months ago

    Beijing, China Tencent Full time

    机器学习高级后台研发工程师(推理平台方向) 北京 分享 分享岗位 方式1:复制岗位链接 方式2:分享岗位海报 手机扫描二维码分享 收藏 TEG 点击了解更多BG信息 技术 三年以上工作经验 更新于年05月24日 岗位职责 ...

  • 大模型算法工程师

    4 months ago

    Beijing, China Tencent Full time

    大模型算法工程师 北京 分享 分享岗位 方式1:复制岗位链接 方式2:分享岗位海报 手机扫描二维码分享 收藏 PCG 点击了解更多BG信息 技术 两年以上工作经验 更新于年03月28日 ...

  • 大模型训练系统优化高级研究员

    4 months ago

    Beijing, China Lenovo Full time

    Description and Requirements 岗位职责： 1. 负责设计高可用大模型训练容错系统，支持千亿大模型预训练 2. 负责大模型训练容错checkpoint优化，提升大模型checkpoint读写与恢复性能 3. 负责大模型弹性训练框架的研发 岗位要求： 1....

  • 机器学习后台开发工程师(广告模型平台)

    4 months ago

    Beijing, China Tencent Full time

    机器学习后台开发工程师(广告模型平台) 北京 分享 分享岗位 方式1:复制岗位链接 方式2:分享岗位海报 手机扫描二维码分享 收藏 TEG 点击了解更多BG信息 技术 三年以上工作经验 更新于年05月29日 岗位职责 ...

  • 多模态资深算法工程师

    4 months ago

    Beijing, China Tencent Full time

    多模态资深算法工程师 北京 分享 分享岗位 方式1:复制岗位链接 方式2:分享岗位海报 手机扫描二维码分享 收藏 PCG 点击了解更多BG信息 技术 两年以上工作经验 更新于年05月17日 岗位职责 ...

  • #NLP资深算法工程师#

    4 months ago

    Beijing, China Tencent Full time

    #NLP资深算法工程师# 北京 分享 分享岗位 方式1:复制岗位链接 方式2:分享岗位海报 手机扫描二维码分享 收藏 PCG 点击了解更多BG信息 技术 两年以上工作经验 更新于年06月03日 岗位职责 ...

  • 广告算法工程师（模型方向）(深圳/北京）

    4 months ago

    Beijing, China Tencent Full time

    广告算法工程师（模型方向）(深圳/北京） 北京 分享 分享岗位 方式1:复制岗位链接 方式2:分享岗位海报 手机扫描二维码分享 收藏 CDG 点击了解更多BG信息 技术 三年以上工作经验 更新于年05月24日 ...

  • 高级推理研发工程师(北京/深圳)(语音方向)

    4 months ago

    Beijing, China Tencent Full time

    高级推理研发工程师(北京/深圳)(语音方向) 北京 分享 分享岗位 方式1:复制岗位链接 方式2:分享岗位海报 手机扫描二维码分享 收藏 TEG 点击了解更多BG信息 技术 三年以上工作经验 更新于年06月04日 岗位职责 1.负责推理平台的研发与优化，支撑AI...

  • LLM大语言模型实习生

    4 weeks ago

    Beijing, China Cummins Inc. Full time

    This position is not available in GPP database. Talent Acquisition team member will fill in the Posting description after intake meeting. Qualifications The Cummins Data Science and Artificial Intelligence Department is seeking undergraduate or graduate students for in-depth research opportunities. These opportunities will cover the exploration and...

  • LLM大语言模型实习生

    4 weeks ago

    Beijing, China Cummins Inc. Full time

    DESCRIPTION This position is not available in GPP database. Talent Acquisition team member will fill in the Posting description after intake meeting. RESPONSIBILITIES This position is not available in GPP database. Talent Acquisition team member will fill in the Posting description after intake meeting. QUALIFICATIONS The Cummins Data Science...

  • 广告大模型算法工程师（深圳/北京）

    4 months ago

    Beijing, China Tencent Full time

    广告大模型算法工程师（深圳/北京） 北京 分享 分享岗位 方式1:复制岗位链接 方式2:分享岗位海报 手机扫描二维码分享 收藏 CDG 点击了解更多BG信息 技术 两年以上工作经验 更新于年05月24日 ...

  • 微信搜一搜机器学习算法工程师

    4 months ago

    Beijing, China Tencent Full time

    微信搜一搜机器学习算法工程师 北京 分享 分享岗位 方式1:复制岗位链接 方式2:分享岗位海报 手机扫描二维码分享 收藏 WXG 点击了解更多BG信息 技术 两年以上工作经验 更新于年05月17日 岗位职责 ...

  • 异构计算研发工程师(广告模型平台)

    4 months ago

    Beijing, China Tencent Full time

    异构计算研发工程师(广告模型平台) 北京 分享 分享岗位 方式1:复制岗位链接 方式2:分享岗位海报 手机扫描二维码分享 收藏 TEG 点击了解更多BG信息 技术 三年以上工作经验 更新于年05月24日 岗位职责 ...

  • 云原生调度工程师

    4 months ago

    Beijing, China Tencent Full time

    云原生调度工程师 北京 分享 分享岗位 方式1:复制岗位链接 方式2:分享岗位海报 手机扫描二维码分享 收藏 TEG 点击了解更多BG信息 技术 三年以上工作经验 更新于年05月27日 岗位职责 1.负责云原生大数据、云原生 AI...

  • QQ#多模态内容理解高级算法研究员#

    4 months ago

    Beijing, China Tencent Full time

    QQ#多模态内容理解高级算法研究员# 北京 分享 分享岗位 方式1:复制岗位链接 方式2:分享岗位海报 手机扫描二维码分享 收藏 PCG 点击了解更多BG信息 技术 不限 更新于年06月02日 岗位职责 ...

  • 微信搜索深度学习算法工程师

    4 months ago

    Beijing, China Tencent Full time

    微信搜索深度学习算法工程师 北京 分享 分享岗位 方式1:复制岗位链接 方式2:分享岗位海报 手机扫描二维码分享 收藏 WXG 点击了解更多BG信息 技术 一年以上工作经验 更新于年05月27日 岗位职责 ...

  • 音频与语音算法研究员

    4 months ago

    Beijing, China Tencent Full time

    音频与语音算法研究员 北京 分享 分享岗位 方式1:复制岗位链接 方式2:分享岗位海报 手机扫描二维码分享 收藏 TEG 点击了解更多BG信息 技术 两年以上工作经验 更新于年05月28日 岗位职责 ...

  • 腾讯云原生数仓研发工程师

    4 months ago

    Beijing, China Tencent Full time

    腾讯云原生数仓研发工程师 北京 分享 分享岗位 方式1:复制岗位链接 方式2:分享岗位海报 手机扫描二维码分享 收藏 CSIG 点击了解更多BG信息 技术 五年以上工作经验 更新于年06月03日 岗位职责 ...