Dice是技术专家在其职业生涯各个阶段的领先职业目的地。我们的客户,AIT Global, Inc.,正在招聘以下职位。今天通过Dice申请!
职位名称:Databricks工程师
工作地点:纽约市,纽约州 混合办公
职责:
- 开发、优化和维护用于ETL和数据转换的Databricks笔记本。
- 设计并实施使用Databricks和Azure Data Factory的可扩展数据管道。
- 将分布式计算概念的深厚知识应用于大规模数据处理。
- 使用数据湖架构和Delta Lake进行可靠且高性能的数据存储。
- 自动化数据质量检查、监控和记录。
- 集成来自多个云源的数据,如Azure Blob、Data Lake Storage和SQL/NoSQL数据库。
- 执行数据建模和分析工作负载的模式设计。
- 为Databricks笔记本和作业实施CI/CD管道。
- 管理Databricks中的工作区管理、集群管理和作业编排。
资格:
- 在大规模数据处理和分析方面拥有Databricks的丰富经验。
- 熟悉云数据平台,最好是Azure。
- 理解数据工程最佳实践和分布式系统。
- 具有数据管道编排和自动化经验。