大数据开发者-Pyspark

15个月前全职
100K AUD Cognizant

Cognizant

location 悉尼
unsaved
职位描述 什么使得Cognizant成为一个独特的工作场所?快速增长和国际创新环境的结合!这为像您这样具有企业家精神、想要在这个世界上产生影响的人们创造了许多机会。在Cognizant,与来自世界各地的同事一起,您将合作创建世界领先公司的解决方案,帮助它们变得更加灵活、创新和成功。此外,这是您成为成功故事的一部分的机会。 职位概述: 我们正在寻找一名大数据开发人员,他将负责收集、加载、处理和分析大量数据。主要关注的是选择用于这些目的的最佳解决方案,然后进行维护、实施和监控。您还将负责将它们与公司使用的架构集成。 • 接触或了解广泛的本地、混合和云数据平台,包括Azure/AWS。 • 在Microsoft Azure/AWS中跨多云场景设计和构建创新的基于云的解决方案。 • 在批处理框架和hive/impala方面有7年以上的编码经验。(使用Scala/Java/Python/PL-SQL、Unix等语言) • 在原生云中设计、构建和实施Lambda架构方面具有经验。 • 熟练创建数据工厂管道,以从不同格式的平面文件中摄取数据。 • 具备使用SQL分析存储在数据仓库中的数据的经验。 • 熟练编写存储过程、函数以处理或转换SQL数据库中的大型数据集。 • 内部专有工具-有3年以上使用JOF Job、Merlin和JOF Ingestion和Replication框架的工作经验,以开发数据摄取管道并部署代码工件。 • 使用Azure Data Lake、Azure Data factory、Azure Databricks等实施端到端数据管道。 • 精通数据库服务和数据湖,如Azure Synapse、Azure SQL、Azure Blob Storage和Azure Data Lake Storage Gen2。 • 在使用Azure DevOps、GITHUB集成、Jenkins、Bamboo等高级部署技术方面具有扎实的经验。 • 应参与从头到尾的项目执行、需求收集、将传统设计转换为大数据生态系统、开发、测试、UAT支持和上线支持。 • 理解并创建Tableau/PowerBI报告将是额外的优势。 • 应具备使用Control M创建、监控和调度作业的知识。 强制技能: • 大数据PaaS服务生态系统:Hadoop、Flume、Kafka、Spark Streaming、Spark SQL、Impala、SQL DW、Kudu表。 • 语言:SQL、PL-SQL、Java、UNIX、Scala、Python和Ruby。 • Azure堆栈:Azure Function、Azure EventHub、Azure HDInsight、Azure Data Bricks、Azure VM、Azure Data Factory、Azure存储、Azure Data Lake、Azure Cosmos DB、Azure KeyVault、Azure SQLDW(Synapse) • AWS堆栈:Kinesis、Lambda、S3、EC2、DynamoDB、API Gateway、KMS、VPC、CloudWatch、IAM角色和策略。 • DevOps工具:Azure DevOps、JIRA、GIT、Bitbucket、Bamboo、Jenkins、Confluence。 • 客户特定:JOF Job、Merlin、JOF Ingestion framework、Control M。 职责: • 负责在本地或云上设计、编码、测试、文档化和维护高质量且可扩展的大数据解决方案。 • 研究、评估和部署新的工具框架和设计模式,以构建可持续的大数据平台。 • 积极与利益相关者、产品专家和数据架构师沟通和协作,以捕捉功能和非功能需求。 • 准确估计开发工作量,协助管理层进行项目规划。 • 负责将本地工作负载迁移到云上并调试云堆栈。 • 负责设计和构建CI/CD和/或DevOps管道,并通过部署自动化改进现有工作流程。 • 及时、专业地回应技术问题。 • 确定、设计和实施内部流程改进:自动化手动流程、优化数据交付、重新设计基础架构以提高可扩展性等。 薪资范围:>100,000美元 下一步:如果您认为这个机会适合您,或者Cognizant是您想加入的类型的组织,我们希望与您进行交流!请直接与我们申请。有关Cognizant的完整职位列表,请访问,Cognizant致力于提供平等的就业机会。成功的候选人将需要进行背景调查。 员工状态:全职员工 班次:白天工作 出差:无 职位发布日期:2024年1月30日 关于Cognizant Cognizant(纳斯达克100:CTSH)是世界领先的专业服务公司之一,为数字时代的客户业务、运营和技术模型进行转型。我们独特的基于行业的咨询方法帮助客户构想、建立和运行更具创新和高效的业务。总部位于美国,Cognizant在《财富》500强中排名第185位,并始终被列为世界上最受钦佩的公司之一。了解Cognizant如何帮助客户以数字化为先导,请访问,或关注我们的推特@Cognizant。