AWS湖仓平台工程师

阿布扎比 无个税2天前全职 网络
面议
DeepLight AI是一家专业的AI和数据咨询公司,拥有在多个行业实施智能企业系统的丰富经验,尤其在金融服务和银行业方面具有深厚的专业知识。我们的团队结合了数据科学、统计建模、AI/ML技术、工作流程自动化和系统集成方面的深厚专业知识,并对复杂的业务运营有实际的理解。 我们正在寻找一位Lakehouse平台工程师,担任我们企业数据骨干的首席架构师和管理者。在这个关键的咨询角色中,您将负责我们整个技术堆栈的健康、可扩展性和演变,确保我们的Lakehouse架构不仅可靠,而且为高性能AI和分析进行了优化。您将负责AWS Glue作业的生命周期,管理Apache Iceberg表注册的复杂性,并将OpenMetadata等行业领先工具用于治理,将Soda Core用于数据质量。从设计稳健的灾难恢复(DR)场景到通过Terraform自动化基础设施,您的工作将为我们的数据工厂小组构建智能企业系统的未来奠定基础。 作为我们专业公司内的顾问,您的技术能力与推动采用的能力相匹配。您将充当平台工程和业务关键运营之间的桥梁,向高级利益相关者“推销”自助工具和自动化血统的价值。我们正在寻找一位拥有8年以上经验的顶级问题解决者——理想情况下在金融服务或银行业中——在快节奏、敏捷的环境中茁壮成长。如果您热衷于淘汰遗留技术债务,同时构建满足激进迁移目标的最先进、自动化的数据平台,您将在DeepLight AI找到自己的归属。 作为AWS Lakehouse平台工程师,您的职责包括: • 平台管理与优化 • * 管理和维护Lakehouse组件: • * 存储:S3桶配置、生命周期策略、存储优化。 • 计算:AWS Glue作业管理、优化、DPU分配。 • 目录:AWS Glue数据目录和Iceberg表注册。 • 语义层:部署并与我们的语义层集成。 • 治理:部署、配置和升级OpenMetadata。 • 质量:维护Soda Core基础设施和集成。 • 应用Iceberg最佳实践进行表优化和维护。 • 实施自动化表维护流程。 • 自助服务与自动化 • * 为数据工厂小组部署自助工具。 • 实施Glue作业的自动化血统捕获。 • 配置审计日志(CloudTrail、S3访问日志)。 • 灾难恢复与可靠性 • * 设计并实施灾难恢复(DR)场景,包括故障切换、备份管理和运行手册。 • 执行整个数据环境的年度DR测试。 • 确保所有关键平台组件都受到监控,并进行警报和积极跟进。 • 迁移与淘汰 • * 执行淘汰路线图。 • 合作 • * 与平台工程师和架构师密切合作,确保在优化和工具方面保持一致。 • 与运营团队合作进行监控和警报。 作为一家AI咨询公司,我们最大的资产是我们员工的专业知识。 虽然技术掌握是我们工作的基础,但能够弥合复杂数据科学与可操作的业务价值之间的差距是您在Deeplight成功的关键。 我们正在寻找不仅在其专业领域中是世界级的个人,而且是引人注目的沟通者和其自身技能的有力倡导者。 您将成为我们公司的代表,负责建立信任,阐明您技术决策背后的“原因”,并有效地向高级利益相关者“推销”您的愿景。 如果您在展示尖端解决方案的挑战中茁壮成长,就像在构建它们一样,您将非常适合。 要求 您将拥有以下经验: • 数据平台工程或相关角色,理想情况下至少8年经验。 • 管理AWS上的Lakehouse平台。 • AWS服务:S3、Glue、CloudTrail、Athena。 • Apache Iceberg、OpenMetadata和Soda Core。 您还应具备以下知识: • 灾难恢复计划和执行。 • 使用Terraform和Git进行基础设施自动化。 • Kafka(MSK)和OpenSearch。 • 识别自动化工作/重复任务的方法。 • 问题解决和故障排除技能。 • 跨职能工作和管理复杂平台运营。 • 在快节奏的环境中工作并实现激进的迁移目标。 • 协作和沟通技能。 • 使用Jira和敏捷工作方式。 作为一家AI咨询公司,我们最大的资产是我们员工的专业知识。 虽然技术掌握是我们工作的基础,但能够弥合复杂数据科学与可操作的业务价值之间的差距是您在Deeplight成功的关键。 我们正在寻找不仅在其专业领域中是世界级的个人,而且是引人注目的沟通者和其自身技能的有力倡导者。 您将成为我们公司的代表,负责建立信任,阐明您技术决策背后的“原因”,并有效地向高级利益相关者“推销”您的愿景。 如果您在展示尖端解决方案的挑战中茁壮成长,就像在构建它们一样,您将非常适合。 福利 福利与成长机会: • 具有竞争力的薪水和绩效奖金 • 综合健康保险 • 专业发展和认证支持 • 参与尖端AI项目的机会 • 灵活的工作安排 • 在快速发展的AI公司中晋升的机会 这个职位提供了一个独特的机会,可以在与一支位于技术创新前沿的专业团队合作的同时,塑造AI实施的未来。成功的候选人将在推动公司成功交付变革性AI解决方案给客户方面发挥关键作用。 在DeepLight AI,我们认识到多样性推动创新。我们致力于营造一个包容的环境,让具有不同思维风格的个人能够茁壮成长,并将其独特的优势贡献给我们的专业AI和数据解决方案。 我们的目标是确保我们的申请和面试过程对所有候选人都是可访问的、可预测的和公平的。 如果您在申请过程中需要任何特定的调整,或者如果您在进入面试阶段时需要任何合理的调整,请告知我们。这些信息将严格保密,不会影响招聘决策。