研究 - 工程

圣弗朗西斯科 3天前全职 网络
面议
OpenAI的隐私工程团队致力于在OpenAI推进通用人工智能(AGI)的使命中,将隐私作为基础要素进行整合。我们的重点是所有处理用户数据的OpenAI产品和系统,努力保持数据隐私和安全的最高标准。 我们构建基本的生产服务,开发新颖的隐私保护技术,并为跨职能的工程和研究合作伙伴提供必要的工具,以确保负责任的数据使用。我们优先考虑负责任的数据使用的方法是OpenAI安全引入AGI以提供广泛利益的使命的核心。 作为隐私工程团队的一员,您将在保护用户数据的前线工作,同时确保我们的AI系统的可用性和效率。您将帮助我们理解和实施最新的隐私增强技术研究,如差分隐私、联邦学习和数据记忆。此外,您将专注于研究隐私与机器学习之间的互动,开发创新技术以改善数据匿名化,并防止模型反演和成员推断攻击。提供搬迁协助。 设计和原型隐私保护的机器学习算法(例如,衡量和增强模型对隐私攻击的鲁棒性,如成员推断、模型反演和数据记忆泄漏——在效用与可证明的保证之间取得平衡)。 开发内部库、评估套件和文档,使前沿的隐私技术对工程和研究团队可访问。 领导对大型模型的隐私–性能权衡的深入调查,发布见解以指导模型训练和产品安全决策。 定义和编纂隐私标准、威胁模型和审计程序,指导从数据集策划到部署后监控的整个ML生命周期。 跨安全、政策、产品和法律合作,将不断变化的监管要求转化为实际的技术保障和工具。 拥有PETs的实际研究或生产经验。 精通现代深度学习框架(PyTorch/JAX),并能将前沿论文转化为可靠、经过良好测试的代码。 喜欢对模型进行压力测试——探测它们的私人数据泄漏——并能清晰地向非专家解释复杂的攻击向量。 在快速变化的跨学科环境中茁壮成长,在开放式研究和在紧迫的期限内发布生产功能之间交替。 沟通清晰,文档严谨,并深切关心构建尊重用户隐私的AI系统,同时推动能力的前沿。 OpenAI是一家致力于确保通用人工智能造福全人类的AI研究和部署公司。我们推动AI系统能力的边界,并通过我们的产品寻求安全地将其部署到世界。AI是一种极其强大的工具,必须以安全和人类需求为核心进行创建,为实现我们的使命,我们必须包容和重视构成全人类全谱的不同观点、声音和经验。 我们是一个平等机会的雇主,我们不基于种族、宗教、肤色、国籍、性别、性取向、年龄、退伍军人身份、残疾、遗传信息或其他适用的法律保护特征进行歧视。 有关更多信息,请参见OpenAI的平权行动和平等就业机会政策声明。 申请人的背景调查将根据适用法律进行,并将考虑具有逮捕或定罪记录的合格申请人就业,符合这些法律,包括旧金山公平机会条例、洛杉矶县雇主公平机会条例和加州公平机会法案,适用于美国的候选人。对于未合并的洛杉矶县工人:我们合理地认为,犯罪历史可能与以下工作职责有直接的、不利和负面的关系,可能导致撤回有条件的录用通知:保护委托给您的计算机硬件不被盗窃、丢失或损坏;在终止雇佣或任务结束时归还您持有的所有计算机硬件(包括其中包含的数据);并保持专有、机密和非公开信息的机密性。此外,工作职责要求访问安全和受保护的信息技术系统及相关数据安全义务。 我们致力于为残疾申请人提供合理的便利,可以通过此链接提出请求。 在OpenAI,我们相信人工智能有潜力帮助人们解决巨大的全球挑战,我们希望AI的好处能被广泛分享。年薪38万至44.5万美元+提供股权。