高级数据工程师;专注于Databricks

多伦多 19天前全职 网络
面议
职位:高级数据工程师(专注于Databricks) 地点:老多伦多 以人为本,每一天 BDO是一家建立在与员工和客户之间积极关系基础上的公司。我们的专业人士每天提供卓越的服务,帮助客户获得值得信赖的建议和见解。作为回报,我们提供一个屡获殊荣的工作环境,优先关注您的个人和职业成长。 您的机会 BDO数字部门正在寻找一位经验丰富且技术精湛的高级数据工程师(专注于Databricks),加入我们的技术咨询服务团队。此角色结合了技术领导与实际的数据工程,专注于使用Azure和Databricks交付可扩展、安全和生产级的数据管道。成功的候选人还将领导客户项目,将数据倡议与业务目标对齐,以创造实际影响。 主要职责 数据工程与平台开发 • 设计、构建和优化使用Databricks、Delta Lake和Apache Spark的强大数据管道。 • 为结构化和非结构化数据开发可扩展的ETL流程,确保数据质量和可靠性。 • 利用Databricks和Azure Data Lake实施跨云和本地源的数据集成解决方案。 • 自动化数据摄取、转换和验证工作流程。 • 监控、排除故障并增强数据管道的性能和可靠性。 • 确保所有数据工作流程的合规性、安全性和运营卓越。 客户与团队领导 • 作为客户项目的主要技术负责人,专注于数据工程和分析解决方案交付。 • 将业务需求转化为可扩展的数据架构和运营计划。 • 与跨职能团队合作,将数据解决方案集成到生产环境中。 • 指导初级团队成员,推动数据工程和云分析最佳实践的采用。 数据应用 • 将业务需求和分析原型转换为强大、可扩展的数据解决方案。 • 应用适当的数据建模和转换技术,以支持分析和机器学习计划。 • 记录数据管道并为内部知识分享做出贡献。 资格 要求 • 教育背景:计算机科学、数据工程、信息系统或相关学科的学士或硕士学位。对数据结构、算法和分布式系统有坚实的基础。 • 专业经验:至少5年的数据工程实践经验,其中至少3年直接使用Databricks、Apache Spark和云数据平台的经验。在生产环境中成功部署和维护大规模数据解决方案的证明。 • 深入了解Microsoft Azure生态系统,具有使用Azure Data Lake、Azure Databricks、Azure Synapse和Azure Dev Ops等服务的经验。 • 对Databricks非常熟练,包括Delta Lake、Apache Spark和数据管道编排的实际操作经验。在生产中优化性能和可靠性的经验。 • 精通Python和/或Scala的高级编程技能,具有使用数据工程库和框架的实践经验。 • 对CI/CD实践有扎实的理解,具有使用Git Hub Actions、Azure Dev Ops或Jenkins等工具设计和维护管道的经验。熟悉基础设施即代码工具,如Terraform或ARM模板,用于自动化环境配置和部署。 • 优秀的书面和口头沟通能力,能够有效地与包括数据科学家、工程师、业务合作伙伴和高管在内的各种利益相关者进行沟通。具有向非技术受众解释技术概念和影响决策的能力。 优先考虑 • 认证:如Databricks认证数据工程师或Microsoft认证(例如Azure数据工程师助理)等专业认证。 • 具有数据治理、数据安全和合规框架的经验。 • 咨询经验以及优秀的沟通和客户管理技能。