高级数据工程师

无个税15个月前全职
Deriv

Deriv

location 迪拜
unsaved
职位信息 职位开放编号 ZR_1090_JOB 行业 商业智能 城市 迪拜 国家 阿联酋 在Deriv,我们正在寻找一个注重细节的高级数据工程师,能够定义我们未来数据模型的数据管道。您将利用Google Cloud Platform、Airflow、Python、Docker和PostgreSQL等技术,帮助公司提供可靠的商业智能解决方案。作为这个角色的一部分,您将开发、测试和维护数据处理架构,并构建提取、转换和加载(ETL)管道。您将是确保我们的数据仓库数据准确性的关键贡献者。 您的挑战 • 在从内部和第三方复杂数据源中提取数据并管理其系统存储时,确保数据完整性。负责数据安全性、准确性和可访问性。 • 利用您在数据工程领域的专业知识,提供切实可行的业务解决方案和决策。 • 设计和构建高性能、安全、可扩展的公司数据仓库和管道,以支持数据科学项目,并遵循最佳实践。 • 调试和解决复杂问题,并建议改进措施,以确保ETL管道架构的正常运行。 • 将原始数据转换为易于使用的表格,供数据分析师使用。 • 及时了解公司产品和新发布的内容,以便有效计划数据仓库或管道的变更。 我们的团队 我们是商业智能团队。我们在公司朝着未来发展的过程中,引领组织培养数据驱动文化。我们收集有意义的数据和分析,深入了解我们的消费者,并构建更有价值的产品和服务。我们的工作在推动智能营销决策、优化业务和增加盈利能力方面非常重要。 要求 • 至少5年的数据工程领域经验 • 熟悉数据建模技术,如Kimball星型模式、Anchor模型和数据仓库 • 掌握面向对象或面向函数的脚本语言,如Python • 熟练掌握关系型SQL和NoSQL数据库,最好使用PostgreSQL、PITR、Pg_basebackup、WAL存档和复制 • 熟悉列式存储或数据仓库,如parquet、Redshift和Bigquery • 深入了解开发和维护ETL/ELT数据管道和工作流管理工具,如Airflow • 具备使用Google Cloud Platform(GCP)服务的实际经验,如BigQuery、定期查询、Cloud Storage和Cloud Functions • 熟悉有关数据准确性的警报和自我恢复方法 • 具备分析能力,能够将数据转化为最佳业务决策 • 专业审查管道代码,并在需要时提出改进意见的能力 • 通过数据帮助团队做出明智的业务决策的经验 • 出色的沟通和演示技巧 • 流利的英语口语和书写能力 有益之处 • 具备网络安全和数据保护方面的背景 • 熟练使用数据管道和工作流管理工具,如Luigi • 了解维护和监控数据库健康状况并解决错误的方法 • 具备管理利益相关者期望和技术需求收集的经验 • 熟悉容器技术,如Docker • 金融科技背景 福利待遇 • 市场薪资 • 年度绩效奖金 • 医疗保险 • 住房和交通津贴 • 休闲着装 • 工作许可证