职位:首席 Databricks 工程师(具备 Pyspark 和 Python 经验)
地点:纽约市,纽约 或 新泽西州 Iselin(混合办公 - 每周三天在办公室工作)
职位描述:
必须进行面对面面试,如果不在本地,费用将由公司承担。
(必须具备金融背景)
主要职责:
• 处理与抵押品、ETD、OTD、结算市场、现金产品、回购、双重回购相关的金融数据。
• 设计、开发和部署 Databricks 作业,以处理和分析大量数据。
• 与数据工程师和数据科学家合作,了解数据需求并实施适当的数据处理管道。
• 优化 Databricks 作业的性能和可扩展性,以处理大数据工作负载。
• 监控和排除 Databricks 作业的故障,识别和解决问题或瓶颈。
• 在 Databricks 环境中实施数据管理、安全性和治理的最佳实践。具有设计和开发企业数据仓库解决方案的经验。
• 在数据分析和数据洞察方面表现出熟练能力。
• 熟练编写 SQL 查询和编程,包括存储过程和反向工程现有流程。
• 熟悉 Azure Synapse/Bigquery/Redshift 者优先。
• 进行代码审查,以确保符合要求、最佳执行模式和遵循既定标准。
技能:
• 5 年以上 - 在金融/银行业的强大经验 - 资本市场、投资银行 - 抵押品、ETD、OTD、结算市场、现金产品、回购、双重回购。
• 10 年以上 - 企业数据管理。
• 10 年以上 - 基于 SQL Server 的大数据集开发。
• 5 年以上 - 数据仓库架构,具备 Databricks 平台的实际经验。对 PySpark 编码有丰富经验。
• 熟悉 Azure Synapse/Bigq 及云基础数据架构、消息传递和分析。
• 出色的沟通能力。
• 拥有云认证者优先。
• 任何与合规报告相关的经验都是加分项。
教育:
• 至少拥有工程和/或计算机科学专业的学士学位。
• 强烈建议拥有硕士学位。