职位名称: 人工智能安全专家
我们正在寻找一位经验丰富的专业人士,以保护机器学习模型、训练管道和人工智能系统免受不断演变的威胁。
主要职责:
• 设计并实施针对人工智能/机器学习模型、数据管道和推理系统的端到端安全措施。
• 识别并减轻与对抗性机器学习、数据投毒、模型盗窃和规避攻击相关的风险。
• 对云端和本地环境中的人工智能/机器学习工作流程进行威胁建模和风险评估。
• 开发工具和技术以测试模型的稳健性,进行攻击模拟,并验证模型的完整性。
所需技能与资格:
• 计算机科学、人工智能、网络安全或相关领域的学士或硕士学位。
• 至少7年的网络安全经验,其中3年以上专注于人工智能/机器学习安全。
• 对机器学习算法、深度学习框架(如TensorFlow、PyTorch)和数据科学工作流程有深刻理解。
• 具备对抗性机器学习框架(例如CleverHans、IBM ART、Foolbox、TextAttack)的经验。
加分项:
• 具备人工智能治理、人工智能红队或模型审计的经验。
• 了解大型语言模型(LLMs)及其安全风险。