大数据工程师

16个月前全职
Adecco Personnel Pte Ltd

Adecco Personnel Pte Ltd

location 新加坡
unsaved
职位描述: • 开发和维护华为大数据平台。 • 从不同来源提取结构化和非结构化数据,并创建结构化数据模型。日常工作将涉及Hadoop、Spark、Hive和其他相关工具和技术。 • 根据业务需求从数据中开发报告。开发和维护自主分析和其他可视化需求的系统。 • 管理和维护ETL作业的日常运行,并修复数据管道问题,重点关注每天的“成本、计算、存储”优化任务。 • 根据公司要求确保数据质量、数据隐私和数据安全,并采取必要措施。 技能/资格: • 计算机科学或其他相关领域的学士/硕士学位,具备数据库查询和相关产品的编码和开发背景。 • 在Hive、ETL、SQL、数据建模和至少一种编程语言(例如Python、Java、Scala等)方面具有强大的工作经验。 • 在Apache Spark、Hive、Hadoop和Linux等大数据技术方面具有丰富的工作经验。 • 具备将来自不同来源的复杂数据集合并呈现给不同数据消费者的能力。 • 具备以下一个或多个方面的工作经验:数据处理自动化、数据质量、数据仓库、数据治理、商业智能、数据可视化、数据隐私。 • 具备根据隐私要求确定和实施安全模型的工作经验,确保遵循防护措施,解决数据质量问题,并在分配的所有权领域内发展治理流程。 • 解决数据集成问题,利用最佳ETL模式、框架、查询技术,从结构化和非结构化数据源进行数据提取。 • 协助负责现有的生产过程,通过高级算法概念优化复杂代码。 • 维护数据管道,确保数据有效,避免数据重复。 • 具备使用Tableau/PowerBI等工具进行数据可视化和报告生成的经验。