我们急需一名云ML Ops工程师——Azure | LLM Ops | RAG,供我们在阿布扎比的银行客户使用。
必须具备Azure ML Ops(生产)方面的丰富经验——在Azure ML上进行模型部署、版本控制和监控。
必须具备Azure OpenAI的LLM Ops方面的丰富经验——管理LLM工作负载的真实生产经验。
必须具备RAG实施的丰富经验——使用Azure AI搜索+嵌入+ LLMs进行实际操作的RAG。
必须具备Azure上的CI/CD经验——使用Azure Functions进行ML/LLM CI/CD。
我们正在寻找一名技术娴熟的云ML Ops工程师,要求在基于Azure的ML/LLM Ops方面具有丰富的专业知识,包括OpenAI和检索增强生成(RAG)工作负载。
该职位的重点是构建、部署和管理跨Azure云服务的可扩展、可靠且成本优化的ML和LLM管道。
主要职责:
在Microsoft Azure上设计、实施和管理端到端的ML/LLM Ops管道
部署、版本控制和监控ML模型和大型语言模型(LLMs),包括Azure OpenAI工作负载
为ML和LLM应用程序构建和维护CI/CD管道
使用Azure AI搜索和OpenAI模型实施和支持RAG(检索增强生成)架构
确保ML/LLM系统的可靠性、可扩展性、性能和成本优化
为生产ML/LLM管道设置监控、日志记录和可观察性
与数据科学家、工程师和产品团队合作,使AI解决方案投入运营
确保Azure云环境的安全性、合规性和最佳实践
必备技术技能:
丰富的Azure ML实际操作经验
部署和管理Azure OpenAI / LLM Ops的经验
具有RAG管道和Azure AI搜索的成熟经验
具有ML/LLM工作负载的CI/CD经验
实际操作经验包括:
Azure Functions
Azure Container Apps
Azure AI搜索
模型部署、版本控制、监控和性能调优
ML系统的可观察性工具和实践
技能:
azure, ml, cloud, llm