具有Python和Pyspark经验的Databricks工程师

15个月前合同
Siri Infosolutions Inc

Siri Infosolutions Inc

location 纽约
unsaved
嗨, 我正在Siri信息解决方案公司招聘“Databricks工程师,具有Python和Pyspark经验”,地点在纽约市或新泽西州(混合工作)。如果你(或)你的朋友正在寻找新的工作,请告诉我。请将简历发送至sam.v@siriinfo.com。 职位:Databricks工程师,具有Python和Pyspark经验 地点:纽约市,纽约州或伊塞林,新泽西州(混合工作-每周3天在办公室工作) 必须进行面试-如果不在当地,将支付面试费用。 职位描述: 这个职位是一个云数据/报告工程师,需要具备SQL和企业级系统数据仓库的背景。这个职位需要与业务用户一起工作,并具备业务分析师的专业知识。 主要职责: - 设计、开发和部署Databricks作业以处理和分析大量数据。 - 与数据工程师和数据科学家合作,了解数据需求并实施适当的数据处理流程。 - 优化Databricks作业的性能和可扩展性,处理大数据工作负载。 - 监控和排除Databricks作业的问题,识别和解决问题或瓶颈。 - 在Databricks环境中实施数据管理、安全性和治理的最佳实践。具备设计和开发企业级数据仓库解决方案的经验。 - 具备数据分析和数据洞察的熟练技能。 - 熟练编写SQL查询和编程,包括存储过程和逆向工程现有流程。 - 利用SQL、编程语言(Python或类似语言)和/或ETL工具(Azure Data Factory、Data Bricks、Talend和SnowSQL)开发数据管道解决方案,以摄取和利用新的和现有的数据源。 - 进行代码审查,确保符合要求、执行效果最佳的模式,并遵守已建立的标准。 技能要求: - 10年以上的企业数据管理经验。 - 10年以上的基于SQL Server的大型数据集开发经验。 - 5年以上的数据仓库架构经验,具备Databricks平台的实际经验。具备丰富的PySpark编码经验。有Snowflake经验者优先考虑。 - 3年以上的Python(numpy、pandas)编码经验。 - 3年以上金融/银行业经验-对证券和银行产品及其数据的一些了解。 - 有Snowflake工具(如SnowSQL和SnowPipe)的经验者优先考虑。 - 具备数据仓库-OLTP、OLAP、维度、事实和数据建模的经验。 - 先前领导企业级云数据平台迁移的经验,具备强大的架构和设计能力。 - 能够独立讨论企业级服务,无论技术栈如何。 - 具备云基础数据架构、消息传递和分析的经验。 - 出色的沟通能力。 - 云认证证书。 - 有监管报告方面的经验者优先考虑。 教育要求: - 至少具备工程学和/或计算机科学学科的学士学位。 - 强烈建议具备硕士学位。