Dice是技术专家在其职业生涯各个阶段的首选职业目的地。我们的客户StackNexus Inc.正在寻找以下职位。今天通过Dice申请!
职位名称:网络安全顾问
地点:纽约州纽约市
期限:12个月以上,可能延长
• 具有LLMs、AI/ML经验
职位概述
安全工程师/AI代理构建者负责设计、保护和部署在企业环境中安全运行的代理AI系统。该角色融合了安全工程、威胁建模和应用AI系统开发,确保智能代理可靠、安全地运行,并与组织政策保持一致。
安全代理AI系统设计
• 为基于代理的AI系统架构安全控制(身份、网络、运行时隔离、沙箱、政策执行)。
• 开发AI特定的威胁模型,解决代理不当行为、对抗性提示、数据泄漏、模型篡改和供应链风险。评估第三方AI工具、API和代理框架的安全合规性和风险。
构建和部署AI代理
• 使用LLMs、API、编排框架和多代理系统设计和实现自主AI代理。
• 构建代理行为逻辑,包括工具使用、路由、规划、回退和防护措施。
• 在生产中原型化和迭代AI代理,根据实际使用情况改进可靠性、安全性和输出质量。
生产级安全工程
• 为代理执行开发安全监控管道,并自动检测异常或有害的代理行为。
• 实施安全的MLOps实践,包括模型谱系跟踪、训练数据保护和完整性控制。
• 对AI代理和基础设施进行漏洞评估、渗透测试和红队测试。
跨职能协作
• 与AI研究、产品、工程、云和网络安全团队密切合作,确保代理的性能、安全性和合规性。
• 通过范围界定、发现会议和需求定义,将业务工作流程转化为代理行为。
标准、治理和最佳实践
• 为代理AI系统建立安全开发标准,并为企业AI治理框架做出贡献。
• 发布内部代理安全最佳实践,包括提示安全指南、LLM威胁缓解和安全工具模式。
所需技能和资格
技术技能:
• 8年以上网络安全工程、应用安全或云安全经验。
• 拥有LLMs、AI/ML管道、向量数据库、编排框架(AutoGen、CrewAI、LangGraph等)的实际经验。
• 扎实的编程背景(需要Python;Java/C++可选)。
• 在威胁建模、身份和访问管理、安全API设计和网络分段方面的专业知识。
• 熟悉对抗性ML、模型稳健性测试、数据中毒防御和模型评估。
• 具有在AWS/Azure/Google Cloud Platform中部署安全工作负载的经验。
优先技能
• 具有构建自主代理或多代理系统的经验。
• 了解AI治理、安全和负责任的AI框架。
• 具备密码学、安全CI/CD管道、MLOps和隐私保护ML的背景。