人工智能安全工程师 - 红队（美国，远程）

我们正在寻找一名AI安全工程师加入我们的红队，帮助我们突破AI安全的界限。您将领导尖端的安全评估，开发新颖的测试方法，并直接与企业客户合作以保护他们的AI系统。这个角色结合了实操红队、自动化开发和客户互动。如果您想站在新兴学科的前沿，喜欢处理新生问题，并且既喜欢破坏事物又喜欢构建可扩展的流程，那么您将在这个角色中茁壮成长。 主要职责 这是一个高度跨职能的职位。AI安全仍在定义中，最佳实践实时涌现。您将构建框架、方法和工具，以扩展我们的服务，同时适应AI领域的快速变化。这个角色非常适合那些希望将传统网络安全专业知识应用于AI安全和安全新前沿的人。您的重点将涵盖几个关键领域： 服务交付与客户互动 • 领导与企业客户的AI红队安全评估项目的端到端交付 • 与客户合作确定项目范围、定义测试要求并建立成功标准 • 对AI系统进行全面的安全评估，包括基于文本的LLM应用和多模态代理系统 • 撰写详细的安全评估报告，提供可操作的发现和修复建议 • 通过报告解读向技术和管理层利益相关者呈现发现和战略建议 工具和方法开发 • 在我们已建立的流程和操作手册的基础上进行改进，以扩展AI红队服务交付 • 开发框架以确保一致、高质量的服务交付 • 找到繁琐、重复的工作并自动化 - 您不需要成为世界级的开发人员，只需能够构建使团队更有效的工具 研究与创新 • 为新兴模式（图像、视频、音频、自主系统）开发新颖的红队方法 • 领先于最新的AI安全威胁、攻击向量和防御机制 • 将尖端的学术和行业研究转化为实用的测试方法 • 与我们的研究和产品团队合作，不断提升我们的方法 必需资格 技术专长 • 在网络安全方面有3年以上经验，专注于红队、渗透测试或安全评估 • 优先考虑具有Web应用程序和API渗透测试经验者 • 深刻理解LLM漏洞，包括提示注入、数据投毒和越狱技术 • 在威胁建模复杂系统和架构方面有实际经验 • 熟练开发自动化工具以启用和增强测试能力、改进工作流程并提供更深入的见解 专业技能 • 在从项目范围界定到交付的客户安全评估项目中有领导经验 • 出色的技术写作能力，具备撰写高管级安全报告的经验 • 面向多样化受众的强大演示和沟通能力 • 为服务交付团队构建流程、文档和工具的经验 AI安全知识 • 了解AI/ML模型架构、训练过程和部署模式 • 熟悉AI安全框架和对齐研究 • 了解新兴的AI攻击面，包括多模态系统和AI代理 优先资格 • 相关安全认证（OSCP、OSWA、BSCP等） • 具有AI红队评估的实际经验，特别是针对代理系统的经验 • 设计LLM越狱的经验 • 积极参与安全研究和工具社区 • 在威胁建模和风险评估框架方面有背景 • 在安全会议或行业活动中有演讲经验 您将获得的收益 • 有机会塑造AI安全作为新兴学科的未来 • 使用尖端的AI技术和新颖的攻击方法 • 领导与不同行业的企业客户的高可见度项目 • 与世界级研究团队合作，突破AI安全的界限 • 在AI安全社区中建立思想领导力的平台 • 具有股权参与的竞争性薪酬方案 👉 让我们保持联系！在LinkedIn、Twitter和Instagram上关注我们，了解Lakera的最新动态。 ℹ️ 加入Momentum，这是一个关于AI安全和安全的一切的Slack社区。 ❗要从我们的招聘数据库中删除您的信息，请发送电子邮件至privacy@lakera.ai。