云数据工程师 - 部委

多伦多 5个月前全职 网络
面议
职位:云数据工程师 - 部委经验 标题:云数据工程师 - 部委经验 地点:远程,安大略省 类型:长期合同 简介: 加入一个稳固的组织,成为我们客户的下一个云数据工程师,参与推动决策的项目中心。您将帮助加拿大最受信任的组织之一开展最新项目,并获得丰富的机会。 职责: • 使用 Azure 数据工厂 和 Databricks 工作流设计和开发可扩展、高效的数据管道。 • 优化管道性能,以实现可扩展性、吞吐量和可靠性,尽量减少延迟。 • 实施强大的数据质量、验证和清理流程,以确保数据完整性。 • 与利益相关者合作,收集数据解决方案的业务和技术需求。 • 排查并解决数据摄取、转换和编排问题。 • 通过无缝的数据集成支持分析、数据科学和机器学习工作负载。 • 支持数据治理倡议,确保遵守数据安全、隐私和质量标准。 • 参与数据迁移项目,包括 OLTP/OLAP 工作负载和非常大的数据集 (VLDs) 到云平台 (SaaS, PaaS, IaaS)。 经验和技能要求: • 7年以上数据工程经验,强大的 Python 熟练度和对 Azure 服务的熟悉。 • 精通 Azure 数据服务: Azure SQL 数据库、Azure 数据湖、Azure 存储、Azure Databricks。 • 在使用 ADF、Databricks、Azure Dev Ops/Git Hub Actions 进行数据管道开发、编排、部署和自动化方面有经验。 • 精通 Python、Scala 和 T-SQL。 • 对数据仓库和 ETL 概念有扎实的理解,包括星型/雪花模式、事实/维度建模和 OLAP。 • 熟悉数据运营原则、敏捷方法论和持续交付。 • 精通数据提供自动化、数据流控制和平台集成。 • 了解结构化、半结构化和非结构化数据的摄取、交换和转换。 • 具备云原生数据服务的经验,如 DaaS(数据即服务)、DBaaS(数据库即服务)和 DWaaS(数据仓库即服务),以及基础设施元素,如密钥库、虚拟机和磁盘。 • 具有商业和开源数据平台、存储技术(云和本地)以及跨环境的数据移动经验。 • 具备云基础数据解决方案的性能监控和调优经验。 • 具有支持数字产品开发、数据分析、数据安全和跨平台安全数据交换的经验。 • 具有设计企业级数据架构的丰富经验,具备高可用性和安全性。 • 理解数据治理、数据安全、合规性和元数据管理。 • 精通实体-关系 (ER) 建模和维度建模。 • 对支持分析就绪数据集的规范化/反规范化技术有深入了解。 关于 Huntel Global: Huntel Global 是 Drake International 的专业 IT 部门。我们的使命是将有才能的 IT 专业人士与寻求完美契合的组织联系起来,提供合同、临时和永久机会。 Huntel Global 是一个平等机会的雇主,倡导工作场所的可及性、包容性和多样性。我们致力于在招聘过程中为残疾申请者提供便利。如果您需要帮助,请联系您所在分支机构的代表。 立即申请——我们期待与您见面!!!