数据解决方案架构师职位描述:
活动:
设计和开发可扩展的数据管道,包括批量数据和事件数据的多个来源
设计、开发、测试、部署和维护数据平台(存储、API、管道、目录)
处理各种类型的数据 - JSON、XML、Parquet、Avro、分隔文件
实施数据可靠性、效率、性能和质量的策略
进行同行设计审查、代码审查、配对编程和功能测试,确保发布质量
遵循DevOps原则部署数据管道,并加入自动化测试
自动化监控数据管道和数据完整性
展示新功能的设计,并从利益相关者那里获得批准
在设计、开发和测试方面支持团队成员的工作
必备条件:
了解和有现代数据平台架构的知识和工作经验,包括基于事件的架构
具有基于配置的设计和开发大型数据项目的经验
具有Python、SQL、Shell脚本、API和处理大型数据集的广泛和成熟的经验
对数据工程概念和数据建模有很好的理解
有在AWS环境中工作的经验,包括S3、EC2、Redshift、Aurora、SQS、SNS、IAM等
具有Kafka等流数据平台的经验
具有CI/CD方法和基于代码的基础设施构建经验
具有Docker等基于容器的开发和部署经验
遵守数据治理标准和原则
额外技能(加分项):
具有Kubernetes和Argo Workflows的经验
具有AWS Glue、Lambda、EMR、DMS、Cloud Watch、KMS、Secrets Manager的经验
具有与微服务架构的工作经验
职位描述:
了解现有数据平台的数据架构
使用Kubernetes、Argo Workflow、Python、Aurora Postgre SQL、Redshift、S3、Kafka设计、开发、测试和部署通用数据管道的功能
在快节奏和敏捷的环境中工作,面临紧迫的截止日期
在团队环境中进行高效的沟通和协作
通过授权团队成员按时交付优质结果来展示领导能力