ITC Infotech正在寻找具有AI/ML启用经验的Snowflake开发人员加入我们在温哥华的团队。
关于我们:
ITC Infotech是一家领先的全球技术服务和解决方案提供商,由业务和技术咨询引领。ITC Infotech通过无缝整合数字专业知识、强大的行业特定联盟以及从ITC集团业务中利用深厚领域专业知识的独特能力,提供对业务友好的解决方案,帮助客户成功并为未来做好准备。我们为银行和金融服务、医疗保健、制造业、消费品、旅游和酒店等行业的企业提供技术解决方案和服务,通过传统和新兴商业模式的结合,成为长期可持续的合作伙伴。
角色概述:
我们正在寻找一位具有强大数据工程专业知识和构建AI就绪数据平台的实际经验的Snowflake开发人员AI/ML启用。该角色专注于设计、开发和优化可扩展的基于Snowflake的数据解决方案,支持批处理、近实时和流处理工作负载,并支持高级分析和AI/ML用例。
强制领域要求:强大的零售领域知识,具备对商品和计划数据、流程和关键绩效指标的实际理解。
主要职责
Snowflake开发与数据建模
• 设计、开发和维护Snowflake数据模型以满足业务和分析需求。
• 实施维度模型(星型、雪花型)和适用的高级模式如数据保险库。
• 与数据架构师合作,确保可扩展、高效和成本优化的数据库结构。
• 应用数据加载、聚类、分区和索引的最佳实践。
ETL / ELT与数据管道
• 开发和维护ELT管道以在Snowflake中摄取、转换和策划数据。
• 利用Snowflake原生功能如Snowpipe、Streams、Tasks和动态表。
• 构建支持批处理和近实时处理的管道。
• 通过验证和自动检查确保数据质量、对账和准确性。
SQL开发与性能优化
• 编写、测试和优化复杂的SQL查询以进行数据检索、转换和分析。
• 执行查询、仓库和工作负载的性能调优以提高效率并降低成本。
• 进行性能瓶颈和数据问题的根本原因分析。
工作流编排(Apache Airflow)
• 设计、开发和维护Apache Airflow DAGs以用于批处理和混合管道。
• 实施依赖管理、重试、警报、SLA监控和故障恢复。
• 编排Snowflake作业、ML工作流和下游分析流程。
流处理与事件驱动数据(Kafka)
• 设计和支持基于Kafka的摄取管道到Snowflake。
• 处理事件排序、迟到数据、重新处理和重播场景。
• 管理流处理用例的模式演变和数据合同。
• 使用Snowpipe Streaming或Kafka连接器将Kafka与Snowflake集成。
Snowflake上的AI / ML启用
• 准备、策划和管理机器学习和高级分析的数据集。
• 使用Snowpark(Python)和Snowflake ML实施ML工作流。
• 支持特征工程、模型训练、推理和评估。
• 启用AI驱动的零售用例,如需求预测、产品组合优化、异常检测和推荐。
集成、自动化与DevOps
• 将Snowflake与API、云存储、BI工具和流媒体平台集成。
• 为SQL、Python和Airflow部署实施CI/CD管道。
• 支持自动化测试、版本控制和发布管理。
安全、治理与可靠性
• 实施RBAC、掩码策略、行/列级安全和安全数据共享。
• 确保符合数据治理、隐私和审计要求。
• 监控管道、管理故障并支持数据重新处理。
• 维护技术文档和操作手册。
敏捷交付
• 积极参与敏捷/ Scrum仪式,包括冲刺计划、站立会议、评审和回顾。
• 与业务利益相关者、产品负责人和跨职能团队密切合作。
所需技能与经验
必须具备:
• 计算机科学、信息技术或相关领域的学士学位。
• 3至10年以上数据工程或分析工程经验。
• 作为Snowflake开发人员或类似角色的实际经验。
• 高级SQL技能和对关系数据库概念的深刻理解。
• 具有Snowflake功能的经验:Snowpipe、Streams、Tasks、动态表。
• 拥有Apache Airflow的丰富经验(DAG设计、监控、故障排除)。
• 具有Kafka或事件驱动/流处理架构的经验。
• 熟练掌握Snowpark(Python)。
• 对数据仓库原则和最佳实践的扎实理解。
• 具备AI/ML基础知识(特征工程、训练、推理)。
• 强制的零售领域专业知识,特别是在商品和计划方面。
• 优秀的问题解决、分析和沟通能力。
优先考虑/首选
• Snowflake认证。
• 具有Snowflake ML、Cortex或AI功能的经验。
• 了解Python ML库(pandas、numpy、scikit-learn)。
• 具有BI工具(Power BI、Tableau、Looker)的经验。
• 接触过实时分析或流媒体密集型平台。
• 了解云平台(AWS、Azure或Google Cloud Platform)。
• 理解Snowflake中的数据安全、加密和治理。
• 接触过MLOps实践。
薪资详情:年薪CAD 105,000 - CAD 130,000作为基本工资+福利
ITC Infotech是一个平等机会的雇主。我们相信不应因年龄、残疾、种族、性别、性别认同和表达、宗教或性取向等差异而受到歧视。所有就业决策均应不考虑年龄、种族、信仰、肤色、宗教、性别、国籍、祖先、残疾状态、退伍军人身份、性取向、性别认同或表达、遗传信息、婚姻状况、公民身份或任何其他受联邦、州或地方法律保护的基础。ITC Infotech致力于为我们的服役人员和女性提供退伍军人就业机会。