数据工程师(Azure / Spark)

纽约 21天前全职 网络
面议
必备技能 - Azure Data Factory (ADF):具有构建和编排ETL管道的实际经验。 - HDInsight:部署和管理Hadoop/Spark集群以进行大规模分析。 - Azure Data Lake Storage Gen2 (ADLS Gen2):在企业数据湖部署、RBAC和安全性方面拥有成熟的专业知识。 - Azure Monitor:配置仪表板、警报和云工作负载的性能监控。 - Scala:具备开发Spark作业和函数式编程的强大编码背景。 - Apache Spark:在分布式数据处理、批处理和流处理管道方面具有高级经验。 - Azure Managed Identities:在ADF和ADLS Gen2部署中实施安全认证和访问控制。