我们正在寻找研究工程师，帮助构建我们的AI系统的安全和监督机制。作为一名信任和安全研究工程师，您将致力于训练模型，检测有害行为，并帮助确保用户的福祉。您将运用自己的技术技能，遵守我们的安全、透明和监督原则，执行我们的服务条款和可接受使用政策。
关于Anthropic
Anthropic是一家AI安全和研究公司，致力于构建可靠、可解释和可控的AI系统。我们希望AI对我们的客户和整个社会都是安全和有益的。我们的跨学科团队在机器学习、物理学、政策、商业和产品方面拥有丰富的经验。
职责：
• 构建机器学习模型，检测用户和API合作伙伴的不良或异常行为，并将其整合到我们的生产系统中
• 根据需要改进我们的自动检测和执行系统
• 分析用户报告的不当账户，并构建机器学习模型主动检测类似情况
• 向我们的研究团队提供滥用模式，以加强训练阶段的模型
如果您具备以下条件，您可能适合这个职位：
• 在数据科学家、研究科学家或研究/机器学习工程师职位上有4年以上经验，最好专注于信任和安全。
• 熟练掌握SQL、Python和数据分析/数据挖掘工具。
• 熟练构建信任和安全的AI/ML系统，如行为分类器或异常检测。
• 具备良好的沟通能力，能够向非技术利益相关者解释复杂的技术概念。
• 关心您工作的社会影响和长期影响。
强有力的候选人还可能具备以下经验：
• 熟悉Scikit-Learn、Tensorflow或Pytorch等机器学习框架
• 具备全栈工程经验，构建内部工具
• 具备高性能、大规模的ML系统经验
• 具备使用transformers进行语言建模的经验
• 具备强化学习经验
• 具备大规模ETL经验
年薪
• Anthropic拥有合作的工程文化，并提供具有竞争力的薪酬。该职位的预期薪酬范围为30万美元至45万美元。
混合政策和签证赞助：目前，我们希望所有员工至少25%的时间在办公室工作。我们确实提供签证赞助，但并非每个职位和每个候选人都能成功获得签证支持，特别是运营职位更难支持。但是，如果我们向您提供职位，我们将尽一切努力让您进入美国或英国，并聘请一位移民律师来提供帮助。
即使您认为自己不符合每个资格要求，我们也鼓励您申请。并非所有优秀的候选人都能满足所有资格要求，因为研究表明，认为自己属于少数群体的人更容易产生冒名顶替综合征，并怀疑自己的竞争力，因此我们敦促您不要过早排除自己，并在对这项工作感兴趣时提交申请。我们认为像我们正在构建的AI系统具有巨大的社会和伦理影响。我们认为这使得代表性变得更加重要，并且我们努力在团队中包容各种不同的观点。
薪酬和福利*
Anthropic的薪酬套餐由三个部分组成：薪水、股权和福利。我们致力于公平支付，并希望这三个元素的总体竞争力与市场水平相当。
股权 - 在这个职位的薪水之上（如上所述），股权将是总体薪酬的重要组成部分。我们的目标是为我们规模的公司提供高于平均水平的股权报酬，并在发放聘用通知时通知股权金额。
美国福利 - 以下福利适用于我们在美国的员工：
- 可选的股权捐赠匹配，比例为3:1，最高可达您的股权授予的50%。
- 全面的健康、牙科和视觉保险，适用于您和所有您的受抚养人。
- 401(k)计划，提供4%的匹配。
- 21周带薪产假。
- 无限制的带薪休假 - 大多数员工每年休假4-6周，有时更多
- 教育、家庭办公室改进、通勤和健康福祉津贴。
- 通过Carrot提供的生育福利。
- 我们办公室的每日午餐和零食。
- 对于搬到湾区的人提供搬迁支持。
英国福利 - 以下福利适用于我们在英国的员工：
- 可选的股权捐赠匹配，比例为3:1，最高可达您的股权授予的50%。
- 私人医疗、牙科和视觉保险，适用于您和您的受抚养人。
- 养老金缴纳（匹配您工资的4%）。
- 21周带薪产假。
- 无限制的带薪休假 - 大多数员工每年休假4-6周，有时更多
- 健康现金计划。
- 人寿保险和收入保护。
- 我们办公室的每日午餐和零食。
• 此薪酬和福利信息基于Anthropic在发布日期的良好估计，可能会在将来进行修改。位于英国或美国以外的员工将获得不同的福利套餐。薪酬范围内的水平将取决于各种与工作相关的因素，包括您在我们内部绩效阶梯上的位置，该位置基于过去的工作经验、相关教育以及在我们的面试或工作试验中的表现。
我们的不同之处
我们相信，最有影响力的AI研究将是大规模的科学研究。在Anthropic，我们作为一个统一的团队，致力于几个大规模的研究项目。我们重视影响力 - 推进我们的长期目标，构建可控、可信赖的AI - 而不是解决更小、更具体的难题。我们将AI研究视为一门实证科学，它与物理学和生物学一样，与传统的计算机科学努力有很多共同之处。我们是一个非常合作的团队，经常举行研究讨论，以确保我们在任何给定时间内追求最有影响力的工作。因此，我们非常重视沟通能力。我们没有工程和研究之间的界限，我们期望我们的所有技术人员根据需要为两者做出贡献。
了解我们的研究方向最简单的方法是阅读我们最近的研究。这项研究延续了我们团队在Anthropic之前的许多方向，包括：GPT-3、基于电路的可解释性、多模态神经元、缩放定律、AI和计算、AI安全中的具体问题以及从人类偏好中学习。
加入我们
Anthropic是一家总部位于旧金山的公益公司。我们提供具有竞争力的薪酬和福利，可选的股权捐赠匹配，慷慨的假期和产假，灵活的工作时间，以及一个美好的办公空间，与同事们合作。 
纽约