一家领先的金融服务组织正在进行重大数据转型计划,正在寻找熟练的数据工程师加入其数据团队,以执行雄心勃勃的2026年数据路线图。在从传统的Hadoop和SQL系统过渡到AWS上的现代Lakehouse架构时,您将对构建和优化该组织的云数据基础设施起到关键作用。
该职位提供在银行环境中架构和实施可扩展数据管道的机会,使用尖端的云技术和现代数据工程实践。
主要职责
• 在AWS云基础设施上设计、构建和维护可扩展的数据管道
• 根据Medallion Architecture原则(青铜、白银、黄金层)实施和优化Lakehouse架构
• 使用AWS Glue和相关服务开发自动化数据管道解决方案
• 使用包括S3、Redshift和Athena在内的AWS数据服务构建稳健的数据解决方案
• 将有限的外部数据源集成到集中式数据仓库中
• 确保数据管道具有良好的日志记录、性能和可维护性
• 在管道阶段实施数据质量检查和监控
• 与数据建模师合作在技术架构中实施数据模型
• 记录技术设计、数据流和管道配置
必备资格
基本要求:
• 拥有AWS数据服务(S3、Redshift、Athena)的丰富实践经验
• 具备构建和实施Lakehouse架构的经验
• 在数据管道自动化和编排方面的专业知识
• 拥有AWS Glue的扎实经验,包括Glue作业创建和优化
• 深刻理解Medallion Architecture:
• 青铜层:原始数据的摄取和存储
• 白银层:清理、验证和处理后的数据
• 黄金层:业务就绪、消费优化的数据集
• 强大的问题解决能力和解决复杂数据问题的能力
• 在企业或银行环境中工作的经验
高度优先:
• 从Hadoop/SQL环境迁移到基于云的架构的经验
• 了解银行业的数据治理和合规要求
• 熟悉语义数据层和数据建模概念
• 具有基础设施即代码(IaC)工具的经验
• 了解数据管道的CI/CD实践
候选人简介
我们正在寻找能够展示以下特质的自我启动者:
• 强烈的责任感和提供高质量解决方案的动力
• 积极主动地识别和解决问题
• 出色的沟通技巧,适用于技术和非技术受众
• 能够在快节奏的环境中独立和协作工作
• 能够与多个供应商和利益相关者合作
Halian集团:
凭借超过28年的经验,我们已经认识到,创新是提供灵活、实用解决方案以改变业务和职业的唯一途径。
我们的资源和智能服务帮助您实现明天的潜力。当您将合适的人才和合适的技术结合在一起时,发现可能实现的惊人事情。
在Halian,我们认识到多样性、公平和包容性(DEI)对于为我们的客户建立高绩效团队至关重要。我们致力于将组织与来自各种背景的顶尖人才联系起来,确保每个人都感到被重视、尊重,并有能力贡献他们独特的观点。我们鼓励所有合格候选人申请,无论种族、性别、残疾或使他们独特的任何其他特征。通过培养多元化和包容性的工作场所,我们帮助客户推动创新、增强协作,并更好地反映他们所服务的社区。
AWS数据工程师 - 阿联酋阿布扎比银行客户