数据解决方案架构师职位描述:
职责:
设计和开发可扩展的数据管道,包括批处理数据和事件数据 设计、开发、测试、部署和维护数据平台(存储、API、管道、目录) 使用各种类型的数据 - JSON、XML、Parquet、Avro、分隔文件 实施关于数据可靠性、效率、性能和质量的策略 进行同行设计审查、代码审查、配对编程和功能测试,以确保质量的发布 使用DevOps原则部署数据管道,并整合自动化测试 自动化监控数据管道和数据完整性 展示新功能的设计,并获得相关利益相关者的批准 当遇到问题时,支持团队成员的设计、开发和测试
必备条件: 熟悉和有现代数据平台架构的知识和工作经验,包括基于事件的架构 在大数据项目的基于配置的设计和开发方面具有广泛且经验丰富的经验 熟练掌握Python、SQL、Shell脚本、API和处理大数据集的能力 出色的数据工程概念和数据建模理解 有使用AWS环境(包括S3、EC2、Redshift、Aurora、SQS、SNS、IAM等)的经验 有使用Kafka等流数据平台的经验 有CI/CD方法论和基于代码构建基础设施的经验 有使用Docker等容器化开发和部署的经验 遵守数据治理标准和原则
额外技能(可选): 有使用Kubernetes和Argo Workflows的经验 有使用AWS Glue、Lambda、EMR、DMS、CloudWatch、KMS、Secrets Manager的经验 有使用微服务架构的经验
职位描述: 了解现有数据平台的数据架构 使用Kubernetes、Argo Workflow、Python、Aurora PostgreSQL、Redshift、S3、Kafka等开发、测试和部署通用数据管道 在快节奏和敏捷的环境中工作,完成紧迫的截止日期 在团队环境中进行高效的沟通和协作 通过授权团队成员交付高质量的结果,展现领导力