Data Engineer, Azure cloud platform (Up to 40k)

16 months agoFull-time
40K HKD Robert Walters

Robert Walters

location Hong Kong
unsaved
我的零售行业客户正在寻找一位数据工程师,用于将数据管道迁移到云平台。 职责: • 将数据管道从Informatica迁移到Databricks,确保无缝集成和高效的数据处理。 • 使用SQL、PL/SQL或Python设计、开发和优化数据处理工作流程。 • 实施和执行数据治理和安全措施,以保护敏感数据并确保合规性。 • 建立和维护数据血统文档,以跟踪数据的来源、转换和目的地。与跨职能团队合作,确定数据需求并实施最佳解决方案。 • 监控和排除数据管道问题,确保数据流畅和不间断。 • 进行数据管道的测试和验证,确保准确性、完整性和数据质量。 • 与数据库管理员和基础设施团队合作,优化数据存储、检索和归档流程。 • 保持对数据工程、大数据技术和云计算领域的行业趋势和进展的更新。 资格要求: • 计算机科学、工程或相关领域的学士学位。 • 在从Informatica迁移到Databricks的数据管道迁移方面有经验。 • 熟练掌握Oracle 12c、ADW、MSSQL和MYSQL。 • 熟练使用Python、Scala或SQL等编程语言进行数据处理和转换。 • 对数据治理和安全原则有深入理解。 • 有维护数据血统文档的经验。 • 熟悉AWS、Azure或Google Cloud Platform等云平台。 • 较强的分析和解决问题的能力。 • 出色的沟通和协作能力。 • 能够适应不断变化的优先事项,并能在快节奏的环境中有效工作。