我们目前正在寻找一名数据工程师,全职,永久(仅限W2),位于伊利诺伊州斯科特空军基地附近。这是一个混合角色,需要每周在现场工作3天。候选人必须拥有秘密许可证。
作为数据工程师,您将在设计、开发和维护我们的数据基础设施和系统中扮演关键角色。您在ETL Databricks、Python、Spark、Scala、JavaScript/JSON、SQL和Jupyter Notebooks方面的专业知识将在领导和管理高效的数据处理和分析方面起到至关重要的作用。
职责
• 设计、开发和实施端到端的数据流水线,利用ETL流程和技术,如Databricks、Python、Spark、Scala、JavaScript/JSON、SQL和Jupyter Notebooks。
• 充当技术联络人,促进、协作和整合具有重大影响的先进技术解决方案,以应对大规模任务的影响。
• 从头开始创建和优化数据流水线,确保可扩展性、可靠性和高性能处理。
• 执行数据清洗、数据集成和数据质量保证活动,以保持大型数据集的准确性和完整性。
• 利用大数据技术高效处理和分析大型数据集,特别是在联邦机构中遇到的数据集。
• 解决与数据相关的问题,并提供创新解决方案,以应对复杂的数据挑战。
• 实施和执行数据治理政策和程序,确保符合监管要求和行业最佳实践。
• 与跨职能团队密切合作,了解数据需求,并设计最佳数据模型和架构。
• 与数据科学家、分析师和利益相关者合作,提供及时准确的数据洞察和支持决策过程。
• 维护软件应用程序、工作流程和流程的文档。
• 了解数据工程领域新兴趋势和进展,并推荐适合的工具和技术以持续改进。
要求:
• 需要秘密许可证。
• 至少5-10年的数据工程师经验,具有从头开始创建数据流水线的经验。
• 精通ETL流程,具有Databricks、Python、Spark、Scala、JavaScript/JSON、SQL和Jupyter Notebooks等技术的实际经验。
• 有领导和管理跨职能技术团队的经验。
• 出色的解决问题的能力和解决复杂数据相关问题的能力。
• 具有处理大型数据集并利用大数据技术高效处理和分析数据的经验。
• 了解数据建模/可视化、数据库设计原则和数据治理实践。
• 出色的沟通和协作能力,能够有效地与跨职能团队合作。
• 注重细节,致力于提供高质量的结果。
• 必须每周2-3天在斯科特空军基地现场工作。
最好有:
• 熟悉Qlik/Qlik Sense、QVD/QlikView和Qlik Production Application Standards (QPAS)是一个重要的加分项。
• 最近的国防部或情报界相关经验。
• 之前在空军工作的经验。