要求
在渗透测试、红队行动或应用安全方面有丰富经验，具备强大的网络应用安全技术技能，包括使用安全测试工具（如 Burp Suite、Metasploit、自定义脚本框架等）的实际操作经验，具有发现新颖攻击向量和创造性地串联漏洞的记录，拥有公开的工作成果，如 CVE、博客文章或公开的漏洞赏金报告，具备使用安全测试工具的经验和构建自定义自动化的能力，能够适应理解和围绕超出直接专业领域的新兴威胁构建参与，具备强大的书面和口头沟通能力，能够向不同的受众解释技术概念，具备像攻击者一样思考的能力，（可选）具备 AI/ML 安全或对抗性机器学习的经验，（可选）具备测试 API 安全性和速率限制系统的经验，（可选）具备测试业务逻辑漏洞和授权绕过技术的背景，（可选）具备反欺诈、信任与安全或滥用预防系统的背景，（可选）熟悉分布式系统和基础设施安全，（可选）理解超出传统安全的 AI 安全考虑，（可选）熟悉滥用检测机制并具备设计新型绕过方法的能力，教育要求：我们要求至少拥有相关领域的学士学位或同等经验，即使您认为自己不符合每一项资格，我们也鼓励您申请。
工作内容
Anthropic 的保障团队正在寻找一名红队工程师，以帮助确保我们部署的 AI 系统和产品的安全性。在这个角色中，您将采取对抗性的方法，揭示我们产品生态系统中的漏洞，以防止恶意行为者利用。您的工作将涵盖从我们产品的技术基础设施漏洞到高级 AI 功能带来的新兴风险。虽然您将借鉴传统安全方法的最佳实践，但重点是更广泛的安全影响和高级 AI 系统及相关产品独特的新型滥用。您将调查潜在滥用的全谱：从协调账户操纵和支付欺诈到产品功能的新型利用。您将模拟复杂的威胁行为者，他们串联多个攻击向量以实现他们的目标。全面进行对 Anthropic 产品表面的对抗性测试，开发结合多种利用技术的创造性攻击场景。研究和实施针对新兴能力的新型测试方法，包括代理系统、工具使用和新交互范式。设计和执行模拟现实世界威胁行为者试图实现特定恶意目标的“完整攻击链”攻击。构建和维护系统化的测试方法，评估我们系统的每个方面。开发自动化测试框架，以实现大规模的持续评估。与产品、工程和政策团队合作，将发现转化为具体的改进。帮助建立衡量新型滥用检测效果的指标。
