软件应用工程师

多伦多 2天前全职 网络
面议
我们正在寻找一位实干型AI网关开发人员,加入一个具有前瞻性思维的团队,参与一个关键的AI基础设施项目。您将负责设计、构建和维护可扩展的API和服务网关,这些网关构成了我们AI服务编排平台的骨干。这个角色非常适合擅长创建稳健、安全和高性能集成层的开发人员,并对AI/ML服务交付的独特挑战充满兴趣。 主要职责: • 设计与开发:架构、编码和部署可扩展的API网关和服务网格组件,以管理、保护和路由流量到各种AI/ML模型和服务。 • AI服务集成:构建连接器和集成逻辑,以与外部AI API(如OpenAI、Anthropic、Azure AI)和内部机器学习模型进行交互,确保可靠和高效的通信。 • 安全与治理:在网关层实现身份验证(OAuth2、JWT、API密钥)、授权(RBAC)、速率限制、日志记录和监控,以确保对AI资源的安全和合规访问。 • 性能优化:针对AI特定模式优化网关性能,如处理流响应、长时间运行的推理请求和高流量。 • 协作:与AI/ML工程师、平台团队和产品负责人密切合作,理解需求并将其转化为技术解决方案。 必备技能和资格: • 5年以上软件开发实战经验,重点关注后端和集成系统。 • 在使用Kong、Apigee、AWS API Gateway、Azure API Management或Envoy Proxy等技术进行API网关开发方面有丰富经验。 • 精通一种或多种编程语言:Go、Python、Java或Node.js。 • 具备REST、GraphQL和gRPC API设计、开发和使用经验。 • 拥有云平台(AWS、Azure或GCP)和在容器化环境(Docker、Kubernetes)中部署服务的实战经验。 • 理解API安全最佳实践(TLS/mTLS、密钥管理、威胁防护)。