Databricks工程师 - 1

纽约 4天前全职 网络
面议
Dice是技术专家在其职业生涯各个阶段的领先职业目的地。我们的客户,AIT Global, Inc.,正在招聘以下职位。今天通过Dice申请! 职位名称:Databricks工程师 工作地点:纽约市,纽约州 混合办公 职责: - 开发、优化和维护用于ETL和数据转换的Databricks笔记本。 - 设计并实施使用Databricks和Azure Data Factory的可扩展数据管道。 - 将分布式计算概念的深厚知识应用于大规模数据处理。 - 使用数据湖架构和Delta Lake进行可靠且高性能的数据存储。 - 自动化数据质量检查、监控和记录。 - 集成来自多个云源的数据,如Azure Blob、Data Lake Storage和SQL/NoSQL数据库。 - 执行数据建模和分析工作负载的模式设计。 - 为Databricks笔记本和作业实施CI/CD管道。 - 管理Databricks中的工作区管理、集群管理和作业编排。 资格: - 在大规模数据处理和分析方面拥有Databricks的丰富经验。 - 熟悉云数据平台,最好是Azure。 - 理解数据工程最佳实践和分布式系统。 - 具有数据管道编排和自动化经验。