角色目的
AVP高级数据工程师角色的目的是在数据工程方面提供战略领导,监督数据基础设施的开发和维护,并确保数据解决方案的可用性、可靠性和性能。此职位在支持整个组织的数据驱动决策中发挥关键作用。
角色范围
- 领导数据工程团队并提供技术指导。
- 架构和优化数据存储解决方案,包括数据仓库和数据湖。
- 设计数据模型并监督数据集成和转换工作。
- 监控和优化数据基础设施性能。
- 管理和指导数据工程师团队。
- 与跨职能团队合作以满足数据需求。
- 确保数据安全、隐私和合规性。
主要职责
- 在数据工程方面提供战略方向和技术领导。
- 领导ETL流程和数据管道的设计、开发和部署。
- 集成来自各种来源的数据并将其转换为分析用途。
- 维护数据质量并实施数据治理最佳实践。
- 管理和指导数据工程师团队以促进专业成长。
- 与利益相关者合作以理解和满足数据需求。
- 记录数据流程、架构和最佳实践。
基础能力
- 强大的领导能力和团队管理技能。
- 优秀的问题解决和沟通能力。
功能能力
- 精通Java、Scala、SQL、Python等编程语言。
- 拥有丰富的ETL工具、数据集成和数据转换经验。
- 深入了解数据存储技术(关系数据库、NoSQL、分布式文件系统)。
- 擅长数据建模、数据库设计和数据仓库。
- 熟悉数据治理、安全和合规标准。
- 拥有大数据技术(如Hadoop、Spark、Hive、Azure、Databricks)经验者优先。
- 拥有Kubernetes等容器编排框架经验者优先。
- 拥有基础设施即代码、DevOps、MLOps和DataOps经验者优先。
经验
10年以上数据工程领域的丰富经验,专注于构建和维护数据管道和数据仓库。
资格
- 计算机科学、信息技术或相关领域的学士或硕士学位。
- 拥有数据工程和云计算相关认证者优先。