职位名称:云数据工程师 – GCP迁移与转型专家
经验要求:8年以上(具有近期GCP项目经验)
职位概要:
我们正在寻找一位熟练的数据工程师,具备在Google Cloud Platform (GCP)和企业数据迁移方面的丰富经验。理想的候选人需对GCP数据环境、Medallion架构有深刻理解,并具有将数据模型和ETL管道从Teradata和Cloudera等本地平台迁移到GCP BigQuery的实际操作经验。
主要职责:
• 使用GCP BigQuery和Cloud Composer设计并实施可扩展的数据管道,遵循Medallion架构原则。
• 领导从Teradata和Cloudera等本地平台到BigQuery的数据模型和数据迁移,确保准确性和性能。
• 开发基于BigQuery SQL的转换和标准ELT转换模式(例如,下推优化、分区策略、分层设计)。
• 将传统Informatica工作流和Teradata BTEQ脚本映射到基于BigQuery SQL的ELT解决方案。
• 将Control-M工作流迁移到GCP Cloud Composer,确保编排兼容性和性能。
• 设计适用于多种用例的模块化和可重用的BigQuery管道模式。
• 与报告团队合作构建仪表板和报告,确保BigQuery数据类型与QlikSense等工具的兼容性。
• 解决数据管道问题,确保及时解决和系统性能优化。
所需技能和经验:
• 对GCP服务有深入了解,包括BigQuery、Cloud Composer和整体GCP数据生态系统。
• 具备云数据平台的经验。
• 拥有从Teradata、Cloudera或类似本地系统到GCP的数据迁移和转换项目的实际操作经验。
• 熟练使用BigQuery SQL进行高级数据转换任务。
• 熟悉标准数据工程模式,如分区、分层、模块化和管道重用。
• 具备将传统Informatica和BTEQ工作流转换为云原生解决方案的经验。
• 具有QlikSense或类似BI工具的经验,包括处理与BigQuery的数据类型兼容性。
• 在云数据环境中具备强大的调试和问题解决能力。
• 具备BigQuery中的数据治理、数据质量检查和性能调优经验。
• 接触过CI/CD实践和基础设施即代码(IaC)用于管道部署。
申请时,您自愿同意根据Tech Aalto隐私政策披露、收集和使用您的个人数据用于就业/招聘及相关目的,隐私政策的副本已在Tech Aalto网站(https://www.techaalto.com/privacy/)上发布。
我们保证保密性,仅通知入围的候选人参加面试。