安全研究员,安全产品

3天前全职
233.2万 - 351.6万 / 年 OpenAI

OpenAI

location 旧金山
unsaved
关于团队 安全产品是一个新的业务部门,致力于通过利用人工智能来转变网络安全,为防御者提供决定性优势。我们正在构建解决该领域一些最困难、影响最大的挑战的产品。我们从已经在OpenAI内部证明其价值的工具开始,帮助保护我们自己的系统。我们以速度、目标和深刻的责任感运作,跨越工程、研究和安全领域合作,以实现实际影响。 关于角色 作为安全产品团队的安全研究员,您将在开发推动我们人工智能驱动的网络安全产品的科学和方法中发挥关键作用。您将作为一个小团队的一部分,开发大语言模型(LLMs)在有意义的安全问题上的安全应用,并将其推向世界。这是一个快速发展、高影响力的角色,您将与安全专家、人工智能研究人员和其他工程师密切合作,将先进的人工智能能力引入现实世界的安全工作流程。您不仅将帮助塑造产品,还将塑造一个快速增长的团队的技术基础和工程文化,该团队肩负着重要使命。 您将负责 • 推动在将大语言模型/人工智能应用于现实世界程序分析、漏洞分析、逆向工程和安全开发问题上的技术进步。 • 设计实验、基准和评估数据集,以衡量安全有效性、模型鲁棒性和操作工作流程的影响。 • 构建研究原型并将其迭代为可靠、安全、用户就绪的产品能力。 • 与内部和外部研究人员、团队和设计合作伙伴合作,了解高价值机会和用例。 • 收集和构建安全数据(代码、漏洞数据、日志、警报),用于性能基准、模型训练、微调和检索工作流程。 • 开发和集成基于模型的检测、推理代理和自动化工作流程到生产系统和云环境中。 • 贡献于团队的工程文化、安全开发实践和在安全环境中负责任的人工智能使用。 • 关注新兴威胁、攻击者技艺和前沿人工智能技术;将洞见转化为影响。 我们正在寻找具备以下条件的人 • 10年以上相关的安全研究经验。 • 精通程序分析技术、工具和技术,包括反汇编工具(例如IDA Pro、Binary Ninja、Ghidra)和模糊测试。 • 精通JavaScript、React和其他网络技术。 • 精通一种或多种后端编程语言,如Python、Go或类似语言。 • 具有公共云基础设施(例如Azure、AWS)和编排框架(例如Kubernetes、Terraform)的经验。 • 深刻理解与安全相关的实践,如安全编码、威胁建模或检测系统。 • 对人工智能/机器学习感兴趣(不要求直接经验)。 • 能够在定义不明确且可能存在竞争优先事项或截止日期的环境中快速行动。 关于OpenAI OpenAI是一家人工智能研究和部署公司,致力于确保通用人工智能造福全人类。我们推动人工智能系统能力的边界,并通过我们的产品寻求安全地将其部署到世界上。人工智能是一种极其强大的工具,必须以安全和人类需求为核心进行创建,为实现我们的使命,我们必须包容和重视形成全人类全景的不同观点、声音和经历。 我们是一个平等机会的雇主,不会因种族、宗教、肤色、国籍、性别、性取向、年龄、退伍军人身份、残疾、遗传信息或其他适用的法律保护特征而歧视。 有关更多信息,请参见OpenAI的平权行动和公平就业机会政策声明。 符合条件的申请者如有逮捕或定罪记录,将根据适用法律考虑雇用,包括旧金山公平机会条例、洛杉矶县雇主公平机会条例和加利福尼亚公平机会法。对于洛杉矶县未合并地区的工人:我们合理地认为,犯罪历史可能与以下工作职责存在直接、不利和负面的关系,可能导致撤回有条件的雇佣提议:保护您所信托的计算机硬件免受盗窃、丢失或损坏;在终止雇佣或任务结束时归还您所拥有的所有计算机硬件(包括其中包含的数据);以及维护专有、机密和非公开信息的机密性。此外,工作职责要求访问安全和受保护的信息技术系统及相关数据安全义务。 如需通知OpenAI您认为此职位发布不合规,请联系jobpostingcompliance@openai.com。对与职位发布合规无关的查询将不予回复。 我们致力于为残疾申请者提供合理的便利,申请可通过此链接提出。 OpenAI全球申请者隐私政策 在OpenAI,我们相信人工智能有潜力帮助人们解决巨大的全球挑战,我们希望人工智能的好处能够被广泛分享。加入我们,共同塑造技术的未来。 薪资范围:$325K - $490K