在Codvo,软件和人员转型密不可分。我们是一家全球同理心驱动的技术服务公司,产品创新和成熟的软件工程深植于我们的核心DNA。我们的核心价值观——尊重、公平、成长、敏捷和包容——指导着我们的一切行动。我们不断扩展在数字战略、设计、架构和产品管理方面的专业知识,以提供可衡量的结果和创新思维。
关于职位
我们正在寻找一位经验丰富的高级AI工程师,具备对石油和天然气、制造业或公用事业等资产密集型行业的深刻理解,以领导我们生成式AI应用的稳健和可扩展的管道和后端系统的设计、开发和实施。在这个角色中,您将负责协调数据流,集成AI服务,开发RAG管道,与LLM合作,并确保支持我们生成式AI解决方案的后端基础设施的顺利运行。
您还需要应用现代LLMOps实践,处理模式约束生成,优化成本和延迟权衡,减轻幻觉,并确保GenAI系统的稳健安全、个性化和可观察性。
职责
生成式AI管道开发
• • 设计和实施可扩展和模块化的管道,用于跨GenAI工作负载的数据摄取、转换和编排。
• • 管理LLM、嵌入服务、向量存储、SQL源和API之间的数据和模型流。
• • 构建集成提示回归测试和版本控制的CI/CD管道。
• • 使用LangChain或LangGraph等编排框架进行工具路由和多跳工作流。
• • 使用Langfuse或Prometheus等工具监控系统性能。
数据和文档摄取
• • 开发系统以摄取非结构化(PDF,OCR)和结构化(SQL,API)数据。
• • 应用文本、图像和代码的预处理管道。
• • 确保跨源的数据完整性、格式一致性和安全性。
AI服务集成
• • 集成外部和内部LLM API(OpenAI、Claude、Mistral、Qwen等)。
• • 构建内部API以实现顺畅的后端-AI通信。
• • 通过基于延迟或成本预算的回退路由优化性能。
• • 使用模式约束提示和输出过滤器抑制幻觉并保持事实准确性。
检索增强生成(RAG)管道
• • 使用向量相似性(FAISS/Qdrant)和结构化数据(SQL/API)构建混合RAG管道。
• • 为多模态或多源文档设计自定义检索策略。
• • 使用DPO或基于反馈的技术应用检索后排名。
• • 通过重新排名、块合并和评分逻辑提高上下文相关性。
LLM集成和优化
• • 管理提示工程、模型交互和调优工作流。
• • 实施LLMOps最佳实践:提示版本控制、输出验证、缓存(KV存储)和回退设计。
• • 使用温度调节、令牌限制和投机解码优化生成。
• • 将可观察性和成本监控集成到LLM工作流中。
后端服务所有权
• • 设计和维护支持GenAI应用的可扩展后端服务。
• • 实施监控、日志记录和性能跟踪。
• • 构建RBAC(基于角色的访问控制)和多租户个性化。
• • 支持生产的容器化(Docker、Kubernetes)和自动扩展基础设施。
所需技能和资格
教育
• 计算机科学、人工智能、机器学习或相关领域的学士或硕士学位。
经验
• • 5年以上AI/ML工程经验,具备端到端管道开发。
• • 在生产中构建和部署LLM/RAG系统的实际经验。
• • 在公共云平台(AWS、Azure或GCP)上有丰富经验。
• 在资产密集型行业(如石油和天然气、公用事业、制造业)有2年以上经验。
技术技能
• • 精通Python和Transformers、SentenceTransformers、PyTorch等库。
• • 对GenAI基础设施、LLM API和LangChain/LangGraph等工具链有深入了解。
• • 具备使用Git进行RESTful API开发和版本控制的经验。
• • 了解向量数据库(Qdrant、FAISS、Weaviate)和基于相似性的检索。
• • 熟悉Docker、Kubernetes和可扩展的微服务设计。
• • 具备使用Prometheus、Grafana或Langfuse等可观察性工具的经验。
生成式AI特定技能
• • 了解LLM、VAE、扩散模型、GAN。
• • 具备构建结构化+非结构化RAG管道的经验。
• • 进行带有安全控制、模式执行和幻觉缓解的提示工程。
• • 具备提示测试、缓存策略、输出过滤和回退逻辑的经验。
• • 熟悉DPO、RLHF或其他基于反馈的微调方法。
软技能
• • 强大的分析、问题解决和调试能力。
• • 与跨职能团队(产品、QA和DevOps)出色的协作能力。
• • 能够在快节奏、敏捷的环境中工作并提供生产级解决方案。
• • 清晰的沟通和强大的文档编写实践。
优先资格
• • 具备OCR、文档解析和布局感知分块的经验。
• • 熟悉用于生成式AI的MLOps和LLMOps工具。
• • 对开源GenAI或AI基础设施项目的贡献。
• • 了解GenAI治理、道德部署和使用控制。
• • 具备使用幻觉抑制框架(如Rebuff或Constitutional AI)的经验。