大数据专家

马斯喀特 无个税4个月前全职 网络
1677.9万 - 2237.3万 / 年
职位名称: 大数据专家 我们正在寻找一位熟练的大数据工程师,以支持我们在阿曼马斯喀特的团队。这个角色提供了在有意义的项目上工作的机会,与才华横溢的同事合作,并为一家不断发展的公司的成功做出贡献。 主要职责: • 使用 Apache Spark、Hive 和 Python 在 Cloudera 上设计、构建和维护本地数据管道。 • 使用 Kafka 开发实时数据摄取工作流,针对电信数据集(例如,使用日志、CDR)。 • 使用 Oozie 管理作业编排和调度,通过 Hue 启用数据访问,并通过 Ranger 确保安全。 • 实施和管理数据安全策略(Kerberos、Ranger),确保合规性和受控访问。 • 开发和公开 REST API 以便于下游集成和数据访问。 • 确保 Cloudera 平台的性能调优、资源优化和高可用性。 • 与数据架构师、工程师和业务利益相关者合作,在电信环境中提供端到端解决方案。 任职要求: • 12-15 年大数据工程经验,专注于本地数据湖环境的实践。 • 深厚的电信领域知识,包括与 CDR、BSS/OSS、客户和网络数据相关的数据模型和管道。 • 强大的实践经验: • Cloudera (CDH/CDP) 组件:Spark、Hive、HDFS、HBase、Impala • Kafka:配置、主题管理、生产者/消费者设置 • 用于数据转换和自动化的 Python • 通过 Oozie 进行作业编排 • 使用 Ranger 进行访问控制和元数据管理 关于我们: RiDiK 是一家全球技术解决方案提供商,隶属于 CLPS Incorporation (NASDAQ: CLPS),提供跨银行、财富管理和电子商务的尖端端到端服务。