Senior Java Spark Engineer

15 months agoContractor
Webologix Ltd/ INC

Webologix Ltd/ INC

location New York
unsaved
职位名称:高级Java Spark工程师 地点:新泽西州泽西城(混合型) 雇佣类型:合同制 职位描述: · 设计和开发能够在大量数据上应用复杂转换的Spark数据处理流水线 · 帮助团队对处理大量数据的复杂Spark作业进行性能调优,确保在有限时间内完成 · 开发和改进通用的数据处理框架,注重效率、可扩展性和代码重用性 · 使用Kafka、Flink实现和优化流式数据处理流水线 · 向初级团队成员提供指导和技术支持,在数据处理和流式处理方面推广最佳实践 · 了解Java、Spark、流式处理和大数据处理、AWS服务的最新趋势和技术 · 主导代码审查,确保高编码标准和实践 任职要求: · 计算机科学、工程或相关领域的学士或硕士学位 · 在软件开发领域具有10年以上相关专业经验,专注于Java、Spark、流式处理和批量高容量数据处理 · 在大规模数据环境中性能调优Spark作业的经验 · 在使用Kafka、Spark、Flink进行流式数据技术和实时数据处理方面具有丰富的背景 · 具备构建通用框架/库的经验,特别是用于数据处理 · 出色的问题解决能力和算法思维能力 · 具备AWS云平台和服务的经验(包括SNS、SQS、Event Bridge、Lambda、Glue、Lake Formation等) · 熟悉Docker、Kubernetes和其他容器化和编排工具