大数据开发者

15个月前全职
Epsilon

Epsilon

location 伦敦
unsaved
数据工程师职位将专注于设计、开发和支持我们在Spark和Python(PySpark)中的Hadoop数据解决方案,同时与Hadoop生态系统的其他组件如HDFS、Hive、Hue、Impala、Zeppelin、Jupyter等进行合作。成功的候选人将与业务和投资组合负责人密切合作,了解需求,然后设计和构建创新的数据解决方案。 工作职责: - 以PySpark、Python和Hadoop框架为中心进行设计和开发。 - 处理千兆字节/千兆字节的数据,并且必须了解转换和丰富大型数据集的挑战。 - 提供有效的解决方案来解决战略和战术问题。 - 与团队成员、项目经理、业务分析师和质量保证团队合作,构思、估计和开发新的解决方案和增强功能。 - 与利益相关者密切合作,定义和完善大数据平台,以实现销售、产品和战略目标。 - 与其他技术团队和架构师合作,定义和开发跨功能技术堆栈交互。 - 读取、提取、转换、分阶段和加载(ETL)数据到多个目标,包括Hadoop和Oracle。 - 作为源准备过程的一部分,摄取和简化各种布局/格式的传入文件。 - 开发围绕Hadoop框架的脚本,自动化流程和现有流程。 - 修改现有的编程/代码以满足新的需求。 - 估计工作量,并通过JIRA/Confluence跟踪进度。 - 单元测试和调试。对任何失败的流程进行根本原因分析(RCA)。 - 将业务需求转化为技术设计规范,并在其上执行。 - 参与代码审查,并使应用程序/代码库与版本控制(GIT/Bitbucket)保持同步。 - 有效的沟通、自我激励能力,能够在分布式团队环境中独立工作并保持完全对齐。 所需技能: - 计算机科学(或工程等同学历)学士或硕士学位。 - 3年以上的大数据摄取、转换和分阶段经验。 - 具有Hadoop分布式框架的分析、设计和实施经验,包括Python和Spark(SparkSQL、PySpark)、HDFS、Hive、Impala、Hue、Cloudera Hadoop、Zeppelin、Jupyter等。 - 处理大量数据的丰富经验(以TB/交易数十亿计)。 - 熟练掌握SQL及任何关系数据库管理系统(RDBMS)。 - 熟悉Spark中的RDD和Data Frames。 - 了解数据分析的工作知识。 - 故障排除和复杂问题解决能力。 - 对Oracle数据库和PL/SQL的了解。 - 熟悉Linux/Unix环境,并熟悉Unix Shell脚本(ksh、bash)。 - 基本的Hadoop管理知识。 - 具备DevOps知识是一个优势。 - 在截止日期内工作,并有效地优先处理和执行任务。 - 具备强大的沟通技巧(口头和书面),能够在各个层面与团队、内部和外部进行沟通。 首选技能: - 对Oracle数据库和PL/SQL的工作知识。 - Hadoop管理员和DevOps。 - ETL技能(熟悉Talend或其他ETL工具为佳)。 - 良好的分析思维和解决问题的能力。 - 快速诊断和解决问题的能力。 - 有动力学习新技术、应用和领域。 - 有通过探索和逆向工程学习的意愿。 - 强大的时间管理能力。 - 能够完全负责任务和项目。 - 具备团队合作精神和出色的人际交往能力。 - 良好的口头和书面沟通能力。 - 具备克服各种挑战的积极态度。 首选认证(以下任一): - CCA Spark和Hadoop开发人员认证。 - MapR认证Spark开发人员(MCSD)。 - MapR认证Hadoop开发人员(MCHD)。 - HDP认证Apache Spark开发人员。 - HDP认证开发人员。 关于Epsilon的附加信息: Epsilon是一家全球广告和营销技术公司,位于Publicis Groupe的中心位置。Epsilon通过连接广告商和消费者,驱动业绩,同时尊重和保护消费者隐私,加速客户利用其一方数据激活跨渠道和设备的能力。该公司领先行业的技术使品牌、代理商和发布商能够接触真实的人,而不是cookie或设备,跨开放网络。欲了解更多信息,请访问网站。 当您成为我们中的一员时,您将与最优秀的人一起奔跑。几十年来,我们一直在帮助世界顶级品牌的营销人员使用我们尖端的技术、解决方案和服务为数百万人个性化体验。Epsilon一流的身份认证为品牌提供了明确的、符合隐私要求的客户视图,品牌可以在我们的数字媒体、消息传递和忠诚度解决方案套件中使用这些视图。我们每天处理400多亿个消费者行为,并拥有许多专利技术,包括实时建模语言和消费者隐私进展。得益于每个员工的工作,Epsilon一直被Forrester、Adweek和MRC认可为行业领先公司。作为Publicis Groupe的核心,Epsilon是一家全球公司,拥有超过8,000名员工。请查看以下资源,了解更多关于Epsilon的精彩之处: • 我们的文化: • Epsilon的生活: • 多样性、公平性和包容性: • 公司社会责任: 优秀的人应该享受优厚的福利 我们知道,我们拥有世界上最聪明、最有才华的员工之一,我们相信应该相应地奖励他们。如果您在这里工作,您将享受有竞争力的薪酬、全面的健康保险覆盖以及无限的晋升机会。 Epsilon是一家平等就业机会雇主。Epsilon的政策是不基于实际或被视为的种族、年龄、性别或性别(包括怀孕)、婚姻状况、国籍、血统、公民身份、心理或身体残疾、宗教、信仰、肤色、性取向、性别认同或表达(包括跨性别身份)、退伍军人身份、遗传信息或任何其他受适用联邦、州或地方法律保护的特征来歧视任何申请人或员工。Epsilon还禁止基于这些受保护类别对申请人和员工进行骚扰。Epsilon将为需要在申请过程中获得适应的申请人提供适应措施。 REF216743S