Azure Data Engineer - Hybrid - Chicago, IL

24 days agoFull-time
70 - 72 USD / 时 NEXT GEN IT INC

NEXT GEN IT INC

location Chicago
unsaved
Azure 数据工程师 - Databricks & DevOps 在芝加哥的混合工作模式 经验:12年以上 核心技能 - 必备技能 Azure DevOps Databricks Snowflake Azure Databricks Synapse 核心技能详细信息 至少有 12 年在企业和/或云环境中开发和部署大规模数据解决方案的经验。 在以下每个领域至少有 2 年的实际分阶段和生产经验: Microsoft Azure Databricks ADLS 数据摄取和 ETL(例如 ADF/Azure Synapse) Snowflake 文档和故障排除 - 文档和故障排除 在以下领域具有深入的操作专业知识: 围绕运营卓越、安全性、可靠性、性能效率和成本优化的云架构最佳实践(例如云良好架构框架) 动态、始终在线、始终可用服务的最佳实践和 IT 操作 计算机科学或相关学科的学士学位。 职位描述 北方信托目前正在寻找一位首席 DevOps 工程师加入我们不断壮大的数据网格团队。这是一个在企业范围内的数据和数字化转型倡议中的实际角色,为数据科学家提供出色的用户体验,以利用网格系统并构建分析模型/洞察。 理想的候选人将以客户为中心,对利用现代云架构和技术推动跨组织边界的重大业务影响充满热情。DevOps 工程师将为分析工作台(AWB)提供支持,特别是 Snowflake 和 Databricks,满足商业分析服务(BAS)团队及其他即将加入的分析团队的需求。他们的职责将包括管理、维护和提供北方信托 Azure 数据网格中的基础设施元素,专注于商业分析服务(BAS)。这个角色的关键重点将涉及基础设施即代码(IaC),候选人将实施技术解决方案以自动化计算集群容量的提供,管理计算和存储资源,监控资源利用情况,并协助将生产交互式笔记本迁移到更基于作业的计算能力。 职责: 维护和发展 AWB 基于云的平台能力(包括将被选择用于摄取数据的 ETL 平台) 与多个内部团队(例如云基础设施、信息安全、网络团队)协作,管理和维护分析工作台(例如计费、订阅级别、工作区、Azure 账户托管、审计日志和平台用户的高层使用监控) 研究和原型化解决方案,以支持各 Microsoft Azure 平台之间的数据连接和操作。负责创建和维护涵盖数据摄取方法、故障排除和相关查询的材料。 在业务部门和职能之间实施 Databricks 委托账户管理,确保有效管理和支持。 作为关键的 Databricks 工作区管理员,促进讨论,满足合作伙伴需求,并为新实施提供支持和规划。 根据供应商发布周期和内部要求(例如数据保护标准),开发和增强 AWB 平台。定期审查系统并提出改进建议。 与软件工程师和站点可靠性工程师积极合作,排查 Databricks 在平台工程组织和用户社区中的性能、连接性和安全问题。 探索、采用并应用新技术来解决问题,同时遵循公司的安全协议和标准。 要求: 至少有 12 年在企业和/或云环境中开发和部署大规模数据解决方案的经验。 在以下每个领域至少有 2 年的实际分阶段和生产经验: Microsoft Azure Databricks ADLS 数据摄取和 ETL(例如 ADF/Azure Synapse) Snowflake 文档和故障排除 - 文档和故障排除 在以下领域具有深入的操作专业知识: 围绕运营卓越、安全性、可靠性、性能效率和成本优化的云架构最佳实践(例如云良好架构框架) 动态、始终在线、始终可用服务的最佳实践和 IT 操作 计算机科学或相关学科的学士学位。 优先特定技能: 了解数据分析技术和方法论,例如高级分析或机器学习 具有使用 ADO 的 DevOps、DataOps 和/或 MLOps 的经验 具备数据安全的工作知识,例如 SecuPi 和 Azure 原生能力 了解基础设施即代码(IaC)和自动化,例如 Terraform 和 Powershell 具备 Azure 和 AWS 云数据及服务产品的工作经验