职位描述:高级数据工程师
经验水平:7-10年及以上
所需技能:
- 计算机科学或相关领域的学士学位或同等工作经验。
- 3年以上数据仓库、数据工程或数据集成项目经验。
- 精通数据仓库概念、策略和工具。
- 扎实的SQL背景。
- 熟悉SQL Server、PostgreSQL、MySQL等关系型数据库。
- 在GCP和Google BigQuery、Cloud SQL、Composer (Airflow)、Dataflow、Dataproc、Cloud Function和GCS方面有丰富经验。
- 具备SQL Server Reporting Services (SSRS)和SQL Server Integration Services (SSIS)知识者优先。
- 了解AWS和Azure云者优先。
- 在Informatica Power Exchange用于大型机、Salesforce和其他新型数据源方面有经验。
- 具有使用API、XML、JSON等进行集成的经验。
- 深入了解数据库管理系统、在线分析处理(OLAP)和ETL(提取、转换、加载)框架、数据仓库和数据湖。
- 了解SDLC、敏捷和Scrum流程。
- 具备强大的问题解决、多任务处理和组织能力。
- 高度熟练处理大量业务数据,深入理解数据库设计和实施。
- 良好的书面和口头沟通能力。
- 具备领导分布在多个地点的团队的经验。
角色与职责:
- 与业务用户和其他利益相关者合作,了解业务流程。
- 能够设计和实施维度表和事实表。
- 识别并实施数据转换/清洗需求。
- 开发高度可扩展、可靠和高性能的数据处理管道,从各种系统中提取、转换和加载数据到企业数据仓库。
- 开发概念、逻辑和物理数据模型及相关元数据,包括数据沿袭和技术数据定义。
- 使用适当的数据加载技术设计、开发和维护ETL工作流和映射。
- 提供数据转换和数据集成从源应用到最终用户BI解决方案的研究、高级设计和估算。
- 提供ETL过程的生产支持,确保数据仓库中的数据及时完成和可用性以供报告使用。
- 分析和解决问题,并在必要时提供技术支持。与BI团队合作,根据功能规范评估、设计、开发BI报告和仪表板,同时保持数据完整性和数据质量。
- 与关键利益相关者合作,将业务信息需求转化为明确的数据需求,以实施BI解决方案。
- 利用事务信息、ERP、CRM、HRIS应用程序中的数据进行建模、提取和转换为报告和分析。
- 通过用户体验/用例、原型、测试和部署BI解决方案定义和记录BI的使用。
- 开发和支持数据治理流程,分析数据以识别和阐明趋势、模式、异常、质量问题,并持续验证报告、仪表板并提出改进建议。
- 培训业务终端用户、IT分析师和开发人员。