职位:云数据工程师 - 部委经验
标题:云数据工程师
- 部委经验
地点:远程,安大略省
类型:长期合同
简介:
加入一个稳固的组织,成为我们客户的下一个云数据工程师,参与推动决策的项目中心。您将帮助加拿大最受信任的组织之一开展最新项目,并获得丰富的机会。
职责:
• 使用 Azure 数据工厂 和 Databricks 工作流设计和开发可扩展、高效的数据管道。
• 优化管道性能,以实现可扩展性、吞吐量和可靠性,尽量减少延迟。
• 实施强大的数据质量、验证和清理流程,以确保数据完整性。
• 与利益相关者合作,收集数据解决方案的业务和技术需求。
• 排查并解决数据摄取、转换和编排问题。
• 通过无缝的数据集成支持分析、数据科学和机器学习工作负载。
• 支持数据治理倡议,确保遵守数据安全、隐私和质量标准。
• 参与数据迁移项目,包括 OLTP/OLAP 工作负载和非常大的数据集 (VLDs) 到云平台 (SaaS, PaaS, IaaS)。
经验和技能要求:
• 7年以上数据工程经验,强大的 Python 熟练度和对 Azure 服务的熟悉。
• 精通 Azure 数据服务:
Azure SQL 数据库、Azure 数据湖、Azure 存储、Azure Databricks。
• 在使用 ADF、Databricks、Azure Dev Ops/Git Hub Actions 进行数据管道开发、编排、部署和自动化方面有经验。
• 精通 Python、Scala 和 T-SQL。
• 对数据仓库和 ETL 概念有扎实的理解,包括星型/雪花模式、事实/维度建模和 OLAP。
• 熟悉数据运营原则、敏捷方法论和持续交付。
• 精通数据提供自动化、数据流控制和平台集成。
• 了解结构化、半结构化和非结构化数据的摄取、交换和转换。
• 具备云原生数据服务的经验,如 DaaS(数据即服务)、DBaaS(数据库即服务)和 DWaaS(数据仓库即服务),以及基础设施元素,如密钥库、虚拟机和磁盘。
• 具有商业和开源数据平台、存储技术(云和本地)以及跨环境的数据移动经验。
• 具备云基础数据解决方案的性能监控和调优经验。
• 具有支持数字产品开发、数据分析、数据安全和跨平台安全数据交换的经验。
• 具有设计企业级数据架构的丰富经验,具备高可用性和安全性。
• 理解数据治理、数据安全、合规性和元数据管理。
• 精通实体-关系 (ER) 建模和维度建模。
• 对支持分析就绪数据集的规范化/反规范化技术有深入了解。
关于 Huntel Global:
Huntel Global 是 Drake International 的专业 IT 部门。我们的使命是将有才能的 IT 专业人士与寻求完美契合的组织联系起来,提供合同、临时和永久机会。
Huntel Global 是一个平等机会的雇主,倡导工作场所的可及性、包容性和多样性。我们致力于在招聘过程中为残疾申请者提供便利。如果您需要帮助,请联系您所在分支机构的代表。
立即申请——我们期待与您见面!!!