人工智能工程师 (MLOP | AI/ML | LLM | 政府 | $4000-$7000)

新加坡 15天前合同 网络
2.7万 - 3.8万 / 月
• 职位名称:人工智能工程师 (MLOP | AI/ML | LLM | 政府 | $5000-$7000) • 工作期限:24 个月 • 工作地点:武吉美拉中央 / 地铁路 • 薪资:5000-7000 • 资格:仅限新加坡公民 职责 • 开发和部署人工智能产品及 AI 驱动的后端服务: • 设计和开发可重用、可扩展的后端 API 服务,以支持业务用例(例如 OCR、文档解析、嵌入模型 API)的人工智能功能 • 在容器化环境中使用 Kubernetes(优先使用 Redhat OCP)和 vLLM 部署和管理大规模 LLM(例如 LLaMA、Mistral、基于 GPT 的模型),并集成到 RESETful 或 gRPC API 端点中。 • 使用 MLOps 框架(如 MLflow、Kubeflow)或企业 AI/ML 工具(如 Dataiku)打包、版本控制、文档编制和部署 AI/ML 模型/服务。 推理优化 • 使用模型量化、张量并行、低级优化库(例如 TensorRT、ONNX Runtime、DeepSpeed)调整推理性能。 • 实现动态批处理和请求复用,以实现低延迟、高吞吐量的服务。 • 对模型推理工作负载进行分析和监控,以识别和消除性能瓶颈。 人工智能基础设施管理 • 设计和管理可扩展的 GPU/加速器基础设施(本地)以支持 AI 训练和推理工作负载。 • 使用 Redhat OCP 等工具维护高效的 GPU 作业调度。 安全性和合规性 • 在 AI 部署生命周期中嵌入安全性,包括模型验证、镜像签名、运行时保护和 API 安全。 • 确保基础设施符合企业安全标准(例如 NIST、ISO 27001)。 • 与安全和合规团队合作进行威胁建模和安全部署评估。 资格 • 计算机科学、数学、统计学或相关领域的学士或硕士学位 • 5 年以上 DevOps、MLOps 经验,其中 2 年以上专注于 AI/ML 系统。 • 对 AI/MLOps 实践和工具有深入了解 • 在生产中部署和优化 LLM 或基于变换器的模型的实践经验。 • 精通容器技术(优先使用 Redhat OCP) • 具备强大的脚本编写和自动化技能(Python、Bash 等)。 • 熟悉推理优化技术(量化、批处理、并行)。 • 对 GPU 基础设施和性能调整有扎实的理解。 • 深入了解安全软件开发实践和 DevSecOps 工具 ---------------- 通过提交您的简历或个人数据,您同意 BGC Group Pte Ltd 收集、使用和披露您的个人数据,以便评估您对工作机会和相关招聘服务的适合性。您确认您已阅读、理解并同意我们的求职者隐私政策,详见 https://bgc-group.com/notice-for-job-applicants 参考编号:SS – JO-27568 BGC Group Pte Ltd(外包) EA 05C3053