我们正在寻找一位高级平台工程师,成为我们团队的核心成员,负责我们Azure Databricks数据工程平台的健康、稳定和增长。
我们目前也有本地(MS SQL服务器)和云端(Palantir Foundry)的数据平台,该职位将支持这些平台,直到我们迁移到Azure Databricks为止。
在这个角色中,您将成为一名动手专家,积极贡献于平台的卓越运营、安全性和性能。您将成为我们数据工程团队的重要资源,提供技术指导并实施关键增强功能,使他们能够构建可扩展和可靠的数据解决方案。
• 平台维护与运营:
维护平台的日常运营健康,包括监控系统性能、管理升级和确保平台稳定性。
• 性能和成本优化:
积极监控和分析平台使用情况,以识别和实施优化措施。这包括微调作业、优化集群配置以及识别节省成本的机会。
• 平台KPI报告:
开发和维护平台KPI报告的KPI仪表板,涵盖可靠性与稳定性、性能与可扩展性、创新与支持、成本与利用率监控、数据质量与治理,以便向领导层和其他利益相关者报告。
• 安全和治理:
在Databricks环境中维护和增强安全和治理政策,重点使用Unity Catalog管理数据访问、数据沿袭和合规性。
• 高级故障排除:
为数据团队升级的复杂问题提供高级技术支持。诊断和解决平台级问题,并进行根本原因分析(RCA)以防止未来事件。
• 工具和自动化:
维护和增强自动化脚本和CI/CD管道,以简化管理任务并提高平台部署和管理的效率。
• 平台增强:
与内部团队合作,了解他们的需求并为平台的路线图做出贡献。帮助设计和实施新功能、服务和最佳实践,以改善用户体验。
我们致力于创造多元化和包容性的环境,让人们每天都能带着真实的自我工作。我们是一个平等机会/积极行动的雇主,认为每个人都很重要。合格的候选人将不论其种族、肤色、民族、宗教、性别(包括怀孕)、性取向、性别认同和表达、婚姻状况、国籍、祖先、遗传因素、年龄、残疾、受保护的退伍军人身份、军人或制服服务成员身份或任何其他受适用法律、法规和条例保护的身份或特征,获得就业考虑。如果您在申请或招聘过程中由于残疾需要帮助和/或合理的便利,请发送请求至@insightglobal.com。要了解更多关于我们如何收集、保留和处理您的私人信息的信息,请查看Insight Global的员工隐私政策:
技能和要求
• 经验:
5年以上在数据工程、平台工程或DevOps角色中有实际操作经验,重点关注云数据平台。
• Azure Databricks专业知识:
在管理和操作Azure Databricks环境方面有丰富的实践经验。证明能够使用Delta Lake、Unity Catalog和Apache Spark等核心功能。相关认证如微软认证:Azure解决方案架构专家、Databricks认证数据工程师专业和Databricks认证平台管理员。
• Azure熟练度:
对Azure生态系统有扎实的工作知识,包括Azure数据湖存储(ADLS)、Azure Active Directory(AAD)和云网络概念。
• 分布式系统:
对分布式计算原理有扎实的理解,并有在分布式环境中解决问题的经验。
• 编程与脚本:
在Terraform、Python、Apache Spark/PySpark、SQL和Shell脚本方面有很强的能力。
• 基础设施即代码与CI/CD:
在基础设施即代码工具(如Terraform)和为平台和数据应用程序部署构建自动化CI/CD管道方面有丰富的经验。
• 运营思维:
在贡献于生产平台的运营稳定性和性能方面有证明的经验。
• 沟通:
优秀的沟通、文档和演示技能,能够影响技术和业务利益相关者。
优先资格
• 熟悉医疗数据和医疗保险数据流
• 熟悉数据分析和报告
• 熟悉ML/AI
教育
• 计算机科学、工程或相关领域的学士或硕士学位。