AIGC模型推理/训练优化工程师

16个月前全职
Byte Dance

Byte Dance

location 香港
unsaved
职责 1. 负责开发和优化公司级AIGC推理框架,通过编译优化、并行计算优化、图融合、高效CUDA操作开发、低精度计算和高并发服务请求优化等高性能优化技术,创建行业领先地位。AIGC推理引擎。 2. 负责AIGC训练优化算法的研究和实现,通过基于CUDA的分布式训练框架(如数据并行、模型并行、Pipeline并行和通信优化)大大提高模型的训练速度和效率。 3. 与公司各部门的算法部门深入合作,分析业务性能瓶颈,并通过软硬件结合的方式高效部署和优化AIGC核心业务模型,并在每个Byte产品线上实现。还投资于AI工具链的开发和技术生态系统的构建,以支持Byte的AI发展重点业务。 资格 1. 本科及以上学历,计算机/电子/信息/通信/自动化/软件等相关专业。 2. 熟练掌握Linux环境下的C/C++、Python语言。 3. 理解深度学习算法的基本原理,熟悉神经网络的基本架构和各种算子的计算方法,并具有超过1年的AutoML、模型推理/训练优化或AI相关工作经验。 4. 能够熟练使用至少一种主流机器学习框架,熟悉各种模型并行训练框架者优先。 5. 了解主流AIGC算法模型,有AIGC模型推理和训练加速实现经验者优先考虑。 6. 有CUDA开发经验,熟悉TensorRT/Triton/Cutlass经验者优先考虑。 原始职位AIGC模型推理/训练优化工程师发布于GrabJobs ©。如果对该职位有任何问题,请使用GrabJobs上的报告职位按钮进行标记。