高级数据平台工程师 Azure Databricks

芝加哥 3天前全职 网络
面议
我们正在寻找一位高级平台工程师,成为我们团队的核心成员,负责我们Azure Databricks数据工程平台的健康、稳定和增长。 我们目前也有本地(MS SQL服务器)和云端(Palantir Foundry)的数据平台,该职位将支持这些平台,直到我们迁移到Azure Databricks为止。 在这个角色中,您将成为一名动手专家,积极贡献于平台的卓越运营、安全性和性能。您将成为我们数据工程团队的重要资源,提供技术指导并实施关键增强功能,使他们能够构建可扩展和可靠的数据解决方案。 • 平台维护与运营: 维护平台的日常运营健康,包括监控系统性能、管理升级和确保平台稳定性。 • 性能和成本优化: 积极监控和分析平台使用情况,以识别和实施优化措施。这包括微调作业、优化集群配置以及识别节省成本的机会。 • 平台KPI报告: 开发和维护平台KPI报告的KPI仪表板,涵盖可靠性与稳定性、性能与可扩展性、创新与支持、成本与利用率监控、数据质量与治理,以便向领导层和其他利益相关者报告。 • 安全和治理: 在Databricks环境中维护和增强安全和治理政策,重点使用Unity Catalog管理数据访问、数据沿袭和合规性。 • 高级故障排除: 为数据团队升级的复杂问题提供高级技术支持。诊断和解决平台级问题,并进行根本原因分析(RCA)以防止未来事件。 • 工具和自动化: 维护和增强自动化脚本和CI/CD管道,以简化管理任务并提高平台部署和管理的效率。 • 平台增强: 与内部团队合作,了解他们的需求并为平台的路线图做出贡献。帮助设计和实施新功能、服务和最佳实践,以改善用户体验。 我们致力于创造多元化和包容性的环境,让人们每天都能带着真实的自我工作。我们是一个平等机会/积极行动的雇主,认为每个人都很重要。合格的候选人将不论其种族、肤色、民族、宗教、性别(包括怀孕)、性取向、性别认同和表达、婚姻状况、国籍、祖先、遗传因素、年龄、残疾、受保护的退伍军人身份、军人或制服服务成员身份或任何其他受适用法律、法规和条例保护的身份或特征,获得就业考虑。如果您在申请或招聘过程中由于残疾需要帮助和/或合理的便利,请发送请求至@insightglobal.com。要了解更多关于我们如何收集、保留和处理您的私人信息的信息,请查看Insight Global的员工隐私政策: 技能和要求 • 经验: 5年以上在数据工程、平台工程或DevOps角色中有实际操作经验,重点关注云数据平台。 • Azure Databricks专业知识: 在管理和操作Azure Databricks环境方面有丰富的实践经验。证明能够使用Delta Lake、Unity Catalog和Apache Spark等核心功能。相关认证如微软认证:Azure解决方案架构专家、Databricks认证数据工程师专业和Databricks认证平台管理员。 • Azure熟练度: 对Azure生态系统有扎实的工作知识,包括Azure数据湖存储(ADLS)、Azure Active Directory(AAD)和云网络概念。 • 分布式系统: 对分布式计算原理有扎实的理解,并有在分布式环境中解决问题的经验。 • 编程与脚本: 在Terraform、Python、Apache Spark/PySpark、SQL和Shell脚本方面有很强的能力。 • 基础设施即代码与CI/CD: 在基础设施即代码工具(如Terraform)和为平台和数据应用程序部署构建自动化CI/CD管道方面有丰富的经验。 • 运营思维: 在贡献于生产平台的运营稳定性和性能方面有证明的经验。 • 沟通: 优秀的沟通、文档和演示技能,能够影响技术和业务利益相关者。 优先资格 • 熟悉医疗数据和医疗保险数据流 • 熟悉数据分析和报告 • 熟悉ML/AI 教育 • 计算机科学、工程或相关领域的学士或硕士学位。