Azure 数据工程师 - Databricks & DevOps
在芝加哥的混合工作模式
经验:12年以上
核心技能 - 必备技能
Azure
DevOps
Databricks
Snowflake
Azure Databricks
Synapse
核心技能详细信息
至少有 12 年在企业和/或云环境中开发和部署大规模数据解决方案的经验。
在以下每个领域至少有 2 年的实际分阶段和生产经验:
Microsoft Azure Databricks
ADLS
数据摄取和 ETL(例如 ADF/Azure Synapse)
Snowflake
文档和故障排除 - 文档和故障排除
在以下领域具有深入的操作专业知识:
围绕运营卓越、安全性、可靠性、性能效率和成本优化的云架构最佳实践(例如云良好架构框架)
动态、始终在线、始终可用服务的最佳实践和 IT 操作
计算机科学或相关学科的学士学位。
职位描述
北方信托目前正在寻找一位首席 DevOps 工程师加入我们不断壮大的数据网格团队。这是一个在企业范围内的数据和数字化转型倡议中的实际角色,为数据科学家提供出色的用户体验,以利用网格系统并构建分析模型/洞察。
理想的候选人将以客户为中心,对利用现代云架构和技术推动跨组织边界的重大业务影响充满热情。DevOps 工程师将为分析工作台(AWB)提供支持,特别是 Snowflake 和 Databricks,满足商业分析服务(BAS)团队及其他即将加入的分析团队的需求。他们的职责将包括管理、维护和提供北方信托 Azure 数据网格中的基础设施元素,专注于商业分析服务(BAS)。这个角色的关键重点将涉及基础设施即代码(IaC),候选人将实施技术解决方案以自动化计算集群容量的提供,管理计算和存储资源,监控资源利用情况,并协助将生产交互式笔记本迁移到更基于作业的计算能力。
职责:
维护和发展 AWB 基于云的平台能力(包括将被选择用于摄取数据的 ETL 平台)
与多个内部团队(例如云基础设施、信息安全、网络团队)协作,管理和维护分析工作台(例如计费、订阅级别、工作区、Azure 账户托管、审计日志和平台用户的高层使用监控)
研究和原型化解决方案,以支持各 Microsoft Azure 平台之间的数据连接和操作。负责创建和维护涵盖数据摄取方法、故障排除和相关查询的材料。
在业务部门和职能之间实施 Databricks 委托账户管理,确保有效管理和支持。
作为关键的 Databricks 工作区管理员,促进讨论,满足合作伙伴需求,并为新实施提供支持和规划。
根据供应商发布周期和内部要求(例如数据保护标准),开发和增强 AWB 平台。定期审查系统并提出改进建议。
与软件工程师和站点可靠性工程师积极合作,排查 Databricks 在平台工程组织和用户社区中的性能、连接性和安全问题。
探索、采用并应用新技术来解决问题,同时遵循公司的安全协议和标准。
要求:
至少有 12 年在企业和/或云环境中开发和部署大规模数据解决方案的经验。
在以下每个领域至少有 2 年的实际分阶段和生产经验:
Microsoft Azure Databricks
ADLS
数据摄取和 ETL(例如 ADF/Azure Synapse)
Snowflake
文档和故障排除 - 文档和故障排除
在以下领域具有深入的操作专业知识:
围绕运营卓越、安全性、可靠性、性能效率和成本优化的云架构最佳实践(例如云良好架构框架)
动态、始终在线、始终可用服务的最佳实践和 IT 操作
计算机科学或相关学科的学士学位。
优先特定技能:
了解数据分析技术和方法论,例如高级分析或机器学习
具有使用 ADO 的 DevOps、DataOps 和/或 MLOps 的经验
具备数据安全的工作知识,例如 SecuPi 和 Azure 原生能力
了解基础设施即代码(IaC)和自动化,例如 Terraform 和 Powershell
具备 Azure 和 AWS 云数据及服务产品的工作经验