数据工程师(Informatica -> Databricks)

17个月前全职
Second Talent

Second Talent

location 香港
unsaved
我们正在寻找一名熟练且具有合作精神的数据工程师,专长是将数据管道从Informatica迁移到Databricks。理想的候选人应具备数据工程方面的丰富背景,包括实施数据管道、确保数据治理和安全性、维护数据血统以及具备团队合作精神。 • 将数据管道从Informatica迁移到Databricks,确保无缝集成和高效数据处理。 • 使用SQL、PL/SQL或Python设计、开发和优化数据处理工作流程。 • 实施和执行数据治理和安全措施,保护敏感数据并确保合规性。 • 建立和维护数据血统文档,以跟踪数据的来源、转换和目的地。 • 与跨职能团队合作,确定数据需求并实施最佳解决方案。 • 监控和排除数据管道故障,确保数据流畅和不间断。 • 进行数据管道的测试和验证,确保准确性、完整性和数据质量。 • 与数据库管理员和基础架构团队合作,优化数据存储、检索和归档过程。 • 保持对数据工程、大数据技术和云计算的行业趋势和进展的更新。 • 计算机科学、工程或相关领域的学士学位。 • 在将数据管道从Informatica迁移到Databricks方面有实际经验。 • 熟练掌握Oracle 12c、ADW、MSSQL和MYSQL。 • 熟练掌握Python、Scala或SQL等编程语言,用于数据处理和转换。 • 对数据治理和安全原则有扎实的理解。 • 具备维护数据血统文档的经验。 • 熟悉AWS、Azure或Google Cloud Platform等云平台。