人工智能/机器学习工程师 (DevOps | MLOps | LLM | 5000-7000 新元 | 政府)

新加坡 12天前合同 网络
2.7万 - 3.8万 / 月
• 职位名称:人工智能/机器学习工程师 (DevOps | MLOps | 5000-7000 新元 | 政府) • 合同期限:24 个月 • 工作地点:武吉美拉中央 / 地铁路 • 薪资:5000-7000 + 年终奖金 + 绩效奖金 • 资格:仅限新加坡公民 职责 • 开发与部署人工智能产品及人工智能驱动的后端服务: • 设计并开发可重用且可扩展的人工智能功能后端 API 服务,以支持业务用例(例如:OCR,文档解析,嵌入模型 API) • 在容器化环境中使用 Kubernetes(优先使用 Redhat OCP)和 vLLM 部署和管理大规模 LLM(例如:LLaMA,Mistral,基于 GPT 的模型),并集成到 RESTful 或 gRPC API 端点中。 • 使用 MLOps 框架(如 MLflow、Kubeflow)或企业 AI/ML 工具(如 Dataiku)打包、版本控制、文档化和部署 AI/ML 模型/服务。 推理优化 • 使用模型量化、张量并行、低级优化库(例如:TensorRT、ONNX Runtime、DeepSpeed)调整推理性能。 • 实施动态批处理和请求复用,以实现低延迟和高吞吐量的服务。 • 监控和分析模型推理工作负载,以识别并消除性能瓶颈。 人工智能基础设施管理 • 设计和管理可扩展的 GPU/加速器基础设施(本地)以支持人工智能训练和推理工作负载。 • 使用 Redhat OCP 等工具维护高效的 GPU 作业调度。 安全与合规性 • 在人工智能部署生命周期中嵌入安全性,包括模型验证、镜像签名、运行时保护和 API 安全性。 • 确保基础设施符合企业安全标准(例如:NIST、ISO 27001)。 • 与安全和合规团队合作,进行威胁建模和安全部署评估。 资格 • 计算机科学、数学、统计学或相关领域的学士或硕士学位 • 5 年以上的 DevOps、MLOps 经验,其中 2 年以上专注于 AI/ML 系统。 • 对 AI/MLOps 实践和工具有深入理解 • 在生产环境中部署和优化 LLM 或基于变换器的模型的实际经验。 • 精通容器技术(优先使用 Redhat OCP) • 强大的脚本编写和自动化技能(Python、Bash 等)。 • 熟悉推理优化技术(量化、批处理、并行)。 • 对 GPU 基础设施和性能调优有扎实的理解。 • 深入了解安全软件开发实践和 DevSecOps 工具 ---------------- 通过提交您的简历或个人数据,您同意 BGC Group Pte Ltd 收集、使用和披露您的个人数据,以评估您对工作机会及相关招聘服务的适合性。您确认您已阅读、理解并同意我们的求职者隐私政策,详见 https://bgc-group.com/notice-for-job-applicants 参考编号:SS – JO-27568-B BGC Group Pte Ltd(外包) EA 05C3053