关于这个职位
Together AI 正在寻找一名 Rust 系统工程师加入我们的推理引擎团队,专注于优化和增强我们 AI 推理系统的性能。如果您对开发高性能系统充满热情,我们希望听到您的声音。这个职位提供了与 AI 研究人员和工程师密切合作的机会,共同创造前沿的 AI 解决方案。加入我们,共同塑造 Together AI 的未来!
所需资格
• 熟练掌握 Rust 编程语言及其生态系统
• 在 Rust 框架方面有丰富经验,特别是 axum、tokio、jemalloc、serde、rayon 和/或 crossbeam
• 深刻理解并发编程和多进程模式
• 有开发和优化调度与调度算法的经验
• 了解分布式系统的原则和设计
• 有将 Rust 服务与 RPC 组件接口的经验
• 能够优化系统以提高性能、可靠性和资源效率
• 扎实的内存管理和性能分析理解。
优先资格
• 有一个或多个 ML 推理框架的经验(HuggingFace TGI、NVIDIA Dynamo、Candle、Pixi、uv、llguidance)
• 有设计和实现高吞吐量、低延迟系统的背景
• 了解为 ML 工作负载设计的分离式服务架构和连续批处理算法
• 熟悉 ML/AI 推理系统和性能优化技术
• 有系统基准测试和性能分析的经验
关于 Together AI
Together AI 是一家以研究为驱动的人工智能公司。我们相信开放和透明的 AI 系统将推动创新并为社会创造最佳结果。我们共同的使命是通过共同设计软件、硬件、算法和模型显著降低现代 AI 系统的成本。我们为推动 AI 前沿贡献了领先的开源研究、模型和数据集。我们的团队在 FlashAttention、Hyena、FlexGen 和 RedPajama 等技术进步中发挥了重要作用。我们邀请您加入这一充满激情的研究人员和工程师团队,共同构建下一代 AI 基础设施。
薪酬
我们提供有竞争力的薪酬、创业股权、健康保险和其他有竞争力的福利。该全职职位在美国的基本薪资范围为 $160,000 - $240,000 + 股权 + 福利。我们的薪资范围由地点、级别和角色决定。个人薪酬将根据经验、技能和与工作相关的知识确定。
平等机会
Together AI 是一个机会均等的雇主,骄傲地向所有人提供平等的就业机会,无论种族、肤色、血统、宗教、性别、国籍、性取向、年龄、公民身份、婚姻状况、残疾、性别认同、退伍军人身份等。
请查看我们的隐私政策,网址为 https://www.together.ai/privacy