高级数据工程师-Hadoop技术栈

14个月前全职
100K USD Cognizant

Cognizant

location 悉尼
unsaved
工作描述 什么使得高知特成为一个独特的工作场所?快速增长和国际化创新环境的结合!这为像你这样有创业精神、想要在这个世界上产生影响的人们创造了许多机会。在高知特,与来自世界各地的同事们一起,你将合作创建解决方案,帮助世界领先的公司变得更加灵活、创新和成功。此外,这是你成为成功故事的一部分的机会。 职位概述: • 使用Apache开源技术构建强大的批处理应用程序,以满足金融犯罪合规要求,为消费品和商业产品交易提供高质量、一致和结构化的数据。通过摄取批处理框架进行数据扫描,以发现金融欺诈,引领澳大利亚金融犯罪领域。 • 具备系统思维和数据内容架构设计能力,将构建一个处理海量数据和强大数据建模的指标层,以提供公共云服务上的高质量、一致和结构化数据。 • 必须具备强大的客户投诉领域知识,能够处理客户投诉量,并生成报告,帮助相关团队了解客户需求或问题,提供优质服务。 • 熟练掌握现代批处理数据处理技术,能够理解复杂的业务需求,包括在云服务中进行摄取、丰富、转换等处理能力。 • 构建企业的数据收集系统和处理管道,从Oracle、SQL Server和IBM DB2等各种源系统中获取内部/外部数据,以促进深入分析和报告,了解客户需求。 必备技能: • 至少12年以上银行和金融、保险和抵押领域的数据工程师专业经验。 • 至少10年以上的Hadoop堆栈的实际经验,包括HDFS、Yarn、MapReduce、HBase、Hive、Sqoop、Pig、Phoenix、Zookeeper、Flume、Oozie和Hue。 • 至少5年以上使用现代流式框架(包括Spark Structured Streaming、Kafka、Sqoop、Oozie、Databricks和Snowflake)设计和实现面向流式的应用程序的实际经验。 • 至少5年以上NoSQL数据库(如HBase、MongoDB和Phoenix)的经验。 • 必须具备代码管理和构建工具(如Git、Bitbucket、GitHub、SVN、Maven和SBT)的丰富经验。 • 必须具备Jenkins、Bamboo和Azure DevOps等CI/CD部署工具的实际经验。 • 熟练掌握Java、Scala、Python和SQL等相关编程语言。 • 熟练掌握Azure云服务,包括ADLS2、HD Insight、Azure SQL、Azure Data Factory、Cosmos DB、Azure Blob Storage和Azure Databricks。 • 熟练掌握使用现代数据架构进行流式架构模式。 • 熟练分析数据架构的业务需求,包括SQL/NoSQL数据库。 • 在本地和云环境中熟悉数据仓库和数据湖的工作知识。 角色和责任: • 负责设计和实施自动化的大规模、高性能的分布式数据处理系统(批处理/流式),推动业务增长,改善产品体验。 • 在各种环境中工作,构建系统,收集、管理和转换所有原始数据,包括但不限于客户数据、产品数据、财务数据和运营数据,以供业务利益相关者、数据科学家和业务分析师解读使用。 • 协助制定数据治理政策和程序,以保护客户个人数据,帮助企业遵守政府法规和安全标准。 • 倡导高质量的软件工程实践,构建大规模数据基础设施和管道。 • 领导数据工程项目,确保管道可靠、高效、可测试、可维护,并负责架构解决方案。 • 为最佳存储和检索优化我们的数据内容模型,以满足关键产品和业务需求。 • 与业务利益相关者、数据科学家和软件工程师合作,了解数据需求,并开发解决方案满足这些需求。 • 设计和实施性能和可扩展性优化的数据模型。 • 监控数据质量,并在必要时采取纠正措施。 • 与数据工程领域的新技术和方法保持最新,并推荐改进数据架构的方法。 • 指导团队的初级成员,并提供最佳实践指导。 • 参与代码审查,并对设计和实施提供反馈。 • 在生产问题出现时帮助解决问题。 薪资范围:> 10万美元 下一步: 如果您对该职位感兴趣,请立即点击“申请”按钮表达您的兴趣。感谢您对我们的机会感兴趣。有关高知特的完整机会列表,请访问http://www.cognizant.com/careers 高知特致力于提供平等就业机会。成功的候选人将需要进行背景调查。 员工状态:全职员工 班次:白班 出差:无 招聘日期:2024年2月19日 关于高知特 高知特(纳斯达克100指数:CTSH)是世界领先的专业服务公司之一,为数字时代的客户业务、运营和技术模型进行转型。我们独特的基于行业的咨询方法帮助客户构想、构建和运行更具创新性和高效性的业务。总部位于美国,高知特在《财富》500强中排名第185位,并始终被列为世界上最受钦佩的公司之一。了解高知特如何帮助客户以数字化为先导,请访问www.cognizant.com或关注我们的推特账号@Cognizant。