角色与职责
• 职位名称：AI / ML 开发人员 / 工程师 (DevOps | MLOps | LLM | 政府 | $5000-$7000)
• 任期：24个月
• 地点：Bukit Merah Central / Depot Rd
• 薪资：5000-7000
• 资格：仅限新加坡公民
职责
• 开发和部署AI产品和AI驱动的后端服务：
• 设计和开发支持业务用例的可重用和可扩展的AI功能后端API服务（例如OCR、文档解析、嵌入模型API）。
• 使用Kubernetes（首选Redhat OCP）和vLLM等工具在容器化环境中部署和管理大规模LLM（例如，LLaMA、Mistral、基于GPT的模型），并集成到RESTful或gRPC API端点。
• 使用MLOps框架（如MLflow、Kubeflow）或企业AI / ML工具（如Dataiku）打包、版本化、记录和部署AI / ML模型 / 服务。
推理优化
• 使用模型量化、张量并行、低级优化库（例如，TensorRT、ONNX Runtime、DeepSpeed）调整推理性能。
• 实现动态批处理和请求多路复用以实现低延迟、高吞吐量服务。
• 分析和监控模型推理工作负载，以识别和消除性能瓶颈。
AI基础设施管理
• 设计和管理可扩展的GPU / 加速器基础设施（本地）以支持AI训练和推理工作负载。
• 使用Redhat OCP等工具维护高效的GPU作业调度。
安全与合规
• 在AI部署生命周期中嵌入安全性，包括模型验证、图像签名、运行时保护和API安全。
• 确保基础设施符合企业安全标准（例如，NIST、ISO 27001）。
• 与安全和合规团队合作进行威胁建模和安全部署评估。
资格
• 计算机科学、数学、统计学或相关领域的学士或硕士学位
• 5年以上DevOps、MLOps经验，其中2年以上专注于AI / ML系统。
• 对AI / MLOps实践和工具有深刻理解
• 在生产环境中部署和优化LLM或基于transformer的模型的实践经验。
• 熟练掌握容器技术（优选Redhat OCP）
• 强大的脚本和自动化技能（Python、Bash等）。
• 熟悉推理优化技术（量化、批处理、并行）。
• 对GPU基础设施和性能调优有扎实理解。
• 深入了解安全软件开发实践和DevSecOps工具
通过提交您的简历或个人数据，您同意BGC Group Pte Ltd收集、使用和披露您的个人数据给我们的客户和合作伙伴，以评估您对工作机会和相关招聘服务的适合性。您确认您已阅读、理解并同意我们的求职者隐私政策，详见https://bgc-group.com/notice-for-job-applicants
参考：SS – JO-27568-B
BGC Group Pte Ltd (外包)
EA 05C3053
告诉雇主您具备的技能
机器学习
Kubernetes
DevOps
数学
ISO
人工智能
脚本编写
Bash
多路复用
合规
Python
RedHat
统计学
API
调度
软件开发
OCR
威胁建模
