数据工程师 - 可观测性工具

休斯顿 2天前全职 网络
面议
在Sepal AI,我们通过开发一些基于真实世界软件系统的最具挑战性的评估,推动AI测试的边界。我们正在寻找一位拥有超过3年经验并具有敏锐系统视角的数据工程师加入我们的团队。您将在为AI建立高吞吐量日志分析环境的评估环境中发挥关键作用。 您的工作内容: - 设计并创建使用高性能工具(如BigQuery、ClickHouse、Snowflake和Redshift)的分析架构和数据管道。 - 在广泛的日志和遥测数据集上进行复杂的分布式查询。 - 开发和管理模拟真实世界DevOps、可观测性或云基础设施日志的合成数据集。 - 优化分布式查询执行计划,以减少超时并提高扫描效率。 您的背景: - 拥有3年以上数据工程或后端系统角色的经验。 - 在分析数据库和OLAP引擎方面具有深厚的专业知识,专注于大规模查询优化和性能调优。 - 具有日志摄取管道(例如FluentBit、Logstash、Vector)和可观测性系统架构设计的经验。 - 拥有强大的SQL技能,能够诊断性能问题并识别低效的查询模式。 - 加分项:具有Python、Docker或合成数据生成的经验。 薪资:根据经验$50 - 85/小时 远程工作,灵活工作时间 项目时间线:5-6周