数据工程师

16个月前全职
CGI

CGI

location 多伦多
unsaved
职位描述: 作为CGI GT-CPC业务部门的数据工程师,您的任务是设计、开发和维护数据生成、转换和存储的基础设施。 作为分析和人工智能实践的咨询服务总监的下属,数据工程师与跨职能团队密切合作,利用编程技能、数据库管理和数据处理技术的组合来构建可扩展和可靠的数据管道。 我们为数据工程师提供了一个绝佳的机会,希望他们在咨询环境中提供高价值的思想领导力和深厚的数据专业知识,并为明天最快增长和最需求的技术领域之一的能力和服务铺平道路。 成功的候选人将与云数据架构师密切合作,成为一个实践团队的一部分,确保数据的高效流动和访问,以进行分析和决策,同时与我们的两个主要CGI利益相关者(客户和我们的成员)建立可信度和业务关系。 您未来的职责: - 执行各种应用程序组件的分析、设计、开发和测试。 - 能够理解高级功能需求,并将其转化为规范。 - 进行数据工程(在数据湖或其他环境中)以分析数据密度、数据建模和报告。 - 与客户和利益相关者接触,审查需求并对齐期望。 - 设计、实施和维护可扩展的管道,以实现高效的数据提取、转换和加载(ETL)。 - 为数据模型和数据架构的设计和实施做出贡献。 - 利用编程语言(例如Python、Scala或Java)将原始数据转换为适当的格式。 - 实施数据验证流程,确保传入数据的准确性和完整性。 - 对数据工程过程、代码和配置进行全面的文档记录。 - 与云数据架构师合作,确保数据结构与业务需求和可扩展性要求相匹配。 - 至少5年以上的大规模敏捷(或Scrum)经验,具有价值流、CI/CD和DevOps实施经验。 - 热衷于解决复杂问题,对最新的技术趋势保持更新,并具有强烈的学习欲望。 - 研究新技术、数据建模方法和信息管理系统,确定应该纳入实践数据架构并制定实施时间表和里程碑。 成功承担此职责所需的资格: - 计算机科学、信息技术、工程或相关领域的学士或硕士学位是必需的。 - 在数据工程或相关角色中拥有5-8年的专业经验。 - 精通Python、Scala或Java等编程语言。 - 有数据处理框架和工具的经验(例如Apache Spark、Apache Flink或类似工具)。 - 对数据库管理系统(例如SQL、NoSQL)有深入了解。 - 了解数据建模和ETL原理。 - 熟悉基于云的数据解决方案,包括主要的三个云解决方案提供商——AWS、Azure、GCP。 - 有传统ETL工具和数据仓库架构的经验。 - 具备优化和排除故障数据工程过程的能力。 - 具备良好的人际交往能力和出色的书面和口头沟通能力,能够建立共识和管理关系。 - 具有高度的合作精神,具备高端咨询技能,并具备在大型矩阵组织结构中间接影响他人的能力。 - 必须是一个自我激励的自我启动者,能够在模糊的情况下受到激励,并以最少的监督解决复杂的问题。 - 数据工程或相关领域的相关认证(例如Google Cloud Certified - 专业数据工程师AWS Certified Big Data - 专业等)。 - SAFe认证。 - GCP/AWS/Azure云平台的经验。 - 掌握Google Looker、MicroStrategy、Kibana等数据可视化工具。 - 掌握预测分析技术(例如预测建模、统计编程、机器学习、分析、数据可视化)。 - 熟悉不同的开发方法论(例如瀑布、敏捷、XP、Scrum)。 - 有在高节奏、快速变化和不断发展的环境中工作的经验,采用办公室和远程工作的混合模式。 技能: - 解决方案分析 - 数据分析 - ETL - Python - 需求分析 - Google Cloud Platform