职位:高级数据工程师(Hadoop)
• *职位摘要**:
• *薪资*
• 每月S $9,000 - S $11,500
• *职位类型*
• **资历*
• 高级
• *经验年限*
• 至少5年
• *技术栈*
• ETL Informatica Map Reduce AWS Oracle Spark
SQL Sqoop CI py Spark Red Shift HDFS HBase Apache Git Java MSSQL Hive Spark No
SQL kafka SQL Scala Postgre
SQL Cassandra Hadoop MySQL Mongo
DB Python
我们正在寻找一位高级数据工程师加入数字技术团队
我们需要一位有经验的数据工程师来设计和开发数据基础设施。
由于我们打算从头开始构建数据管道,您将有自主权,并且在设计、开发和维护基础设施方面得到我们工程团队的技术支持。
为关键数据管道架构决策做出贡献,并领导重大项目的实施
将业务需求转化为技术规范和文档
制定代码标准、ETL架构标准和命名约定
设计、执行和文档化ETL测试计划
优化ETL作业的性能
开发团队的数据能力-分享知识,强制执行最佳实践并鼓励数据驱动的决策。
计算机科学、数据科学、机器学习、人工智能、统计学或其他定量和计算科学的技术背景
5年以上经验,具有构建可扩展且性能优越的数据基础设施、实施数据仓库和商业智能项目的成功记录:
MS SQL Server、Oracle、MySQL、PostgreSQL
使用Informatica堆栈交付生产ETL作业,包括:
Power Center、Power Exchange、Informatica Data Explorer
应具备在Hadoop生态系统中工作的经验,有AWS(redshift,cloud watch)经验
以下工具的经验是一个加分项:
大数据管理、大数据流式处理、企业数据集成、企业数据湖、企业数据目录、客户360
具有实施数据质量(DQ)框架的经验是一个加分项:
数据概要、DQ验证规则、自动清洗等。
3年以上的Hadoop架构和组件经验,包括:
Apache Hive、Apache Spark、Apache zoo keeper、Kafka、Nifi、Sqoop、HDFS架构、HBase、Map Reduce
Git hub
- CI/CD自动化
具有No
SQL数据库经验是一个加分项:
Mongo
DB、Cassandra等。
具有构建API的经验是一个加分项
具有以下语言的经验:
SQL、Bash、HiveQL、Scala、Spark
SQL、PySpark、Python、Java