职位名称:高级Java Spark工程师
地点:新泽西州泽西城(混合型)
雇佣类型:合同制
职位描述:
· 设计和开发能够在大量数据上应用复杂转换的Spark数据处理流水线
· 帮助团队对处理大量数据的复杂Spark作业进行性能调优,确保在有限时间内完成
· 开发和改进通用的数据处理框架,注重效率、可扩展性和代码重用性
· 使用Kafka、Flink实现和优化流式数据处理流水线
· 向初级团队成员提供指导和技术支持,在数据处理和流式处理方面推广最佳实践
· 了解Java、Spark、流式处理和大数据处理、AWS服务的最新趋势和技术
· 主导代码审查,确保高编码标准和实践
任职要求:
· 计算机科学、工程或相关领域的学士或硕士学位
· 在软件开发领域具有10年以上相关专业经验,专注于Java、Spark、流式处理和批量高容量数据处理
· 在大规模数据环境中性能调优Spark作业的经验
· 在使用Kafka、Spark、Flink进行流式数据技术和实时数据处理方面具有丰富的背景
· 具备构建通用框架/库的经验,特别是用于数据处理
· 出色的问题解决能力和算法思维能力
· 具备AWS云平台和服务的经验(包括SNS、SQS、Event Bridge、Lambda、Glue、Lake Formation等)
· 熟悉Docker、Kubernetes和其他容器化和编排工具