数据解决方案架构师

15个月前全职
Virtusapolaris - Virtusa Corporation

Virtusapolaris - Virtusa Corporation

location 悉尼
unsaved
数据解决方案架构师职位描述: 活动: 设计和开发可扩展的数据管道,包括批量数据和事件数据的多个来源 设计、开发、测试、部署和维护数据平台(存储、API、管道、目录) 处理各种类型的数据 - JSON、XML、Parquet、Avro、分隔文件 实施数据可靠性、效率、性能和质量的策略 进行同行设计审查、代码审查、配对编程和功能测试,确保发布质量 遵循DevOps原则部署数据管道,并加入自动化测试 自动化监控数据管道和数据完整性 展示新功能的设计,并从利益相关者那里获得批准 在设计、开发和测试方面支持团队成员的工作 必备条件: 了解和有现代数据平台架构的知识和工作经验,包括基于事件的架构 具有基于配置的设计和开发大型数据项目的经验 具有Python、SQL、Shell脚本、API和处理大型数据集的广泛和成熟的经验 对数据工程概念和数据建模有很好的理解 有在AWS环境中工作的经验,包括S3、EC2、Redshift、Aurora、SQS、SNS、IAM等 具有Kafka等流数据平台的经验 具有CI/CD方法和基于代码的基础设施构建经验 具有Docker等基于容器的开发和部署经验 遵守数据治理标准和原则 额外技能(加分项): 具有Kubernetes和Argo Workflows的经验 具有AWS Glue、Lambda、EMR、DMS、Cloud Watch、KMS、Secrets Manager的经验 具有与微服务架构的工作经验 职位描述: 了解现有数据平台的数据架构 使用Kubernetes、Argo Workflow、Python、Aurora Postgre SQL、Redshift、S3、Kafka设计、开发、测试和部署通用数据管道的功能 在快节奏和敏捷的环境中工作,面临紧迫的截止日期 在团队环境中进行高效的沟通和协作 通过授权团队成员按时交付优质结果来展示领导能力