职位:高级数据工程师(混合办公:美国伊利诺伊州芝加哥)
有兴趣加入一家成长中的公司,与才华横溢的同事合作,提升支持性和充满活力的文化,并成为气候解决方案的一部分吗?在Energy Solutions,我们专注于产生重大影响。我们相信,基于市场的项目可以成为提供大规模能源、碳和水资源节约的强大力量。自1995年以来,我们利用这种力量为我们的公用事业、政府和机构客户提供经过验证的、基于性能的解决方案。
高级数据工程师——设计、开发和维护支持Energy Solutions数据需求的数据平台。理想的候选人是对分析工具和云技术(如AWS、Azure或类似技术)有专业知识的热情且高技能的专业人士。他们应精通SQL、NoSQL和Python等编程语言,能够处理大型数据集,以提供高质量的面向客户的数据解决方案和见解。这个独特的职位非常适合那些在数据领域具有技术能力的人,他们希望通过我们为北美主要公用事业公司和全国其他客户的工作,对能源效率市场和温室气体减排产生影响。
这是一个混合办公的工作机会。ES在加利福尼亚州奥克兰市、加利福尼亚州橙县、俄勒冈州波特兰市、伊利诺伊州芝加哥和马萨诸塞州波士顿设有办事处。
职责
• 构建、自动化和管理近实时可扩展的数据摄取管道,用于主数据管理、深度学习和预测分析。
• 在AWS上构建和维护云原生大数据环境,使用适当的SQL、NoSQL和NewSQL技术,确保其高度安全、可扩展、灵活且性能卓越。
• 领导数据治理和数据分析工作,以确保数据质量和数据沿袭的适当元数据文档。
• 为数据基础设施的所有组件提供技术输入,以进行构建/购买/合作决策。
• 与数据科学家、BI开发人员和产品经理密切合作,设计和实施数据模型、数据库模式、数据结构和处理逻辑,以支持各种数据科学、分析、机器学习和BI计划。
• 设计和开发ETL(提取-转换-加载)流程,以验证和转换数据、计算指标和建模特征,使用Spark、Python、SQL和AWS中的其他技术填充数据模型。
• 领导数据治理和数据分析工作,以确保数据质量和数据沿袭的适当元数据文档。
• 以身作则,展示代码开发和优化、单元测试、CI/CD、性能测试、容量规划、文档编制、监控、警报和事件响应的最佳实践,以确保数据的可用性、质量和可用性。
• 定义数据可用性和正确性的SLA。自动化数据可用性和质量监控,并在数据交付SLA未达到时响应警报。
• 在组织和各级别之间传达进展,从个人贡献者到高管。识别并澄清需要采取行动的关键问题,并推动适当的决策和行动。清晰地传达结果。
最低资格
• 计算机科学或信息技术学士学位,加上至少8年的相关经验。
• 高度精通ETL开发中常用的编程语言,如PLSQL、SQL、Python。能够编写高效的SQL查询、SQL存储过程,开发用于数据转换的脚本,并利用编程框架和库创建/增强ETL映射和工作流。
• 熟练使用AWS服务,包括但不限于Amazon S3、Glue、Data Catalog、Amazon Redshift、Redshift Spectrum和Amazon Athena。能够利用这些服务构建可扩展、可靠且高性能的数据管道和分析解决方案。
• 熟练使用关系数据库,如Postgres、Oracle、MySQL或SQL Server。具备数据库设计、优化技术和高级查询能力的知识。
• 具有性能调优和优化数据库操作的经验。
• 熟悉数据治理框架和数据…