云数据工程师 – GCP迁移

新加坡 4天前全职 网络
面议
职位名称:云数据工程师 – GCP迁移与转型专家 经验要求:8年以上(具有近期GCP项目经验) 职位概要: 我们正在寻找一位熟练的数据工程师,具备在Google Cloud Platform (GCP)和企业数据迁移方面的丰富经验。理想的候选人需对GCP数据环境、Medallion架构有深刻理解,并具有将数据模型和ETL管道从Teradata和Cloudera等本地平台迁移到GCP BigQuery的实际操作经验。 主要职责: • 使用GCP BigQuery和Cloud Composer设计并实施可扩展的数据管道,遵循Medallion架构原则。 • 领导从Teradata和Cloudera等本地平台到BigQuery的数据模型和数据迁移,确保准确性和性能。 • 开发基于BigQuery SQL的转换和标准ELT转换模式(例如,下推优化、分区策略、分层设计)。 • 将传统Informatica工作流和Teradata BTEQ脚本映射到基于BigQuery SQL的ELT解决方案。 • 将Control-M工作流迁移到GCP Cloud Composer,确保编排兼容性和性能。 • 设计适用于多种用例的模块化和可重用的BigQuery管道模式。 • 与报告团队合作构建仪表板和报告,确保BigQuery数据类型与QlikSense等工具的兼容性。 • 解决数据管道问题,确保及时解决和系统性能优化。 所需技能和经验: • 对GCP服务有深入了解,包括BigQuery、Cloud Composer和整体GCP数据生态系统。 • 具备云数据平台的经验。 • 拥有从Teradata、Cloudera或类似本地系统到GCP的数据迁移和转换项目的实际操作经验。 • 熟练使用BigQuery SQL进行高级数据转换任务。 • 熟悉标准数据工程模式,如分区、分层、模块化和管道重用。 • 具备将传统Informatica和BTEQ工作流转换为云原生解决方案的经验。 • 具有QlikSense或类似BI工具的经验,包括处理与BigQuery的数据类型兼容性。 • 在云数据环境中具备强大的调试和问题解决能力。 • 具备BigQuery中的数据治理、数据质量检查和性能调优经验。 • 接触过CI/CD实践和基础设施即代码(IaC)用于管道部署。 申请时,您自愿同意根据Tech Aalto隐私政策披露、收集和使用您的个人数据用于就业/招聘及相关目的,隐私政策的副本已在Tech Aalto网站(https://www.techaalto.com/privacy/)上发布。 我们保证保密性,仅通知入围的候选人参加面试。