Okareo – GenAI 的实时错误跟踪和鲁棒性
我们正在为开发人员构建一个现代平台，以便通过实时错误跟踪、强大的对抗性模拟和深度代理评估安全地部署 GenAI。实时 LLM 错误跟踪已嵌入 GenAI 开发的核心—因此团队可以即时捕捉范围违规、失败的 LLM 工具调用和在生产中发生的断流。代理评估提供了代理规划、内存管理和决策过程的可见性，以便在失败到达用户之前进行捕捉。我们帮助团队以规模部署基于 LLM 的自主代理、函数调用框架和检索增强生成 (RAG) 管道。
关于这个角色
我们正在为下一代 LLM 驱动的软件构建基础设施—我们正在寻找一位高级后端工程师来帮助引领这一方向。作为早期团队的关键成员，您将在塑造我们的产品、架构和工程文化方面发挥核心作用。如果您非常关心为其他开发人员构建产品，对现代软件开发有强烈的看法，并希望您的工作能够定义 GenAI 工具的未来，我们非常乐意与您交流。
您将做什么
• 直接与创始团队合作，定义核心产品功能和后端架构
• 全面技术拥有权和产品架构的定义，有机会利用现代技术栈的优势
• 设计和发展支持 LLM 评估、模拟和实时可观察性的基础设施，具备规模化能力
• 与客户的工程团队合作，集成到他们的 LLM 管道中并解决实际的基础设施挑战
• 确立技术基调：指导工程师，建立最佳实践，以身作则
我们在寻找什么
• 8 年以上的后端或基础设施工程经验，理想情况下构建面向开发者或平台产品
• 在高影响力项目上领导开发的成功记录，项目范围广泛
• 对云平台（GCP、AWS）有深厚经验，具备强大的系统设计基础
• 能够独立思考，快速交付，并在模糊环境中导航
• 强烈的指导本能和塑造高绩效工程文化的愿望
优先考虑
• 开源开发工具或基础设施项目的贡献者或维护者
• 具有 ML 或 LLM 基础设施的经验（模型服务、评估框架、向量数据库等）
• 在显著规模上全周期开发 ML 驱动的系统
• 在可观察性栈、CI/CD 系统或 IDE/开发工具方面的背景 
San Francisco