必须具备的要求:
- 在大数据、Cloudera Distribution 7.x、云迁移、关系型数据库方面具有强大的项目经验
- 必须具备在Amazon EMR/Databricks/Cloudera CDP方面的强大项目经验
- 具备4-5年使用Hadoop组件Sqoop、Hive、Solr、MR、Impala、Spark、Spark SQL、HBase构建数据管道的经验
- 必须具备4-5年的Python、Java和Scala编程经验
- 具备使用Python框架(Django、Flask等)开发REST API的丰富经验
- 使用Spring框架开发微服务/网络服务的经验极具优势
请在提交简历时根据上述技能评分,评分范围为1-10。
大数据工程师将领导大数据工程团队。顾问将担任技术负责人的角色,并提供专业服务,支持长期的IT战略和规划,包括高级分析、专业报告和演示文稿,以及指导、支持和培训。
• 交付成果或任务:
提供愿景,收集需求并将客户用户需求转化为技术架构。
设计和实施集成的大数据平台和分析解决方案
设计和实施数据收集器,以收集和传输数据到大数据平台。
• 为大数据平台实施监控解决方案,以监控基础设施的健康状况
技术知识和技能
• 必须具备4-5年的Python、Java和Scala编程经验。
• 具备使用Python框架(Django、Flask等)开发REST API的丰富经验。
• 具备使用Spring框架开发微服务/网络服务的经验。
• 在Amazon EMR/DataBricks/Cloudera CDP方面具有丰富的经验。
• 熟悉Dask、Numpy、Pandas、Scikit-Learn。
• 在大数据、Cloudera Distribution 7.x、关系型数据库方面具有实践经验。
• 具备使用Hadoop组件Sqoop、Hive、Solr、MR、Impala、Spark、Spark SQL、HBase构建数据管道的实践经验。
• 在实时分析(如Spark/Kafka/Storm)方面具有丰富的经验。
• 熟悉Jenkins、JIRA。
• 在Unix/Linux环境中编写脚本和调度/执行作业方面具有专业知识。
我们正在寻找能够在项目中提供愿景和技术领导的顾问。该资源将审查现有架构,并根据需要推荐新技术。Hadoop工程师将与业务部门密切合作,并推荐变更以为业务提供价值。