Coverstar 正在打造首个面向 Alpha 世代的安全、创新、AI 原生社交平台。我们建立了一个符合 COPPA 标准的社区，让孩子们可以安全地创造、协作和成长。
我们得到了顶级投资者的支持，快速发展，并正在招聘一名与使命一致的 AI 工程师，帮助我们推动下一代个性化内容和社区的发展。
您的工作内容
作为我们的信任与安全 AI 工程师，您将设计、构建和发布 AI 系统，以确保 Coverstar 在视频流、直播和创作工具中保持安全和愉悦。影响是立竿见影的：您训练的模型和规则引擎保护孩子，减少有害内容，并在不良行为者进入我们的社区之前阻止他们。
作为我们的信任与安全 AI 工程师，您将：
大规模构建安全机器学习：训练和部署用于政策违规内容（文本、图像、音频、视频）、完整性滥用（垃圾邮件、袭击、虚假参与）和不良行为者检测的模型和分类器。
构建和扩展我们的审核员控制台：开发和维护基于网络的控制台应用程序，以为内部团队提供高效的审核和安全工作流程。
增强信任与安全工具：改进审核仪表板、用户报告管道和自动执行系统（警告、禁令、限制），以确保我们的社区安全。
应用数据科学进行安全监控：使用基于 Python 的数据科学和机器学习工具设计、训练和部署可在平台上扩展的风险检测模型。
持续改进安全系统：监控性能，迭代检测策略，并确保对新的滥用或有害内容模式的强大覆盖。
发布实时保护：为直播、信息流和消息设计低延迟的审核推理。
如果您符合以下条件，您可能适合：
拥有 2 年以上计算机视觉和基于 Transformer 的文本模型（例如 BERT）的机器学习/AI 实践经验。
精通 Python（最好还有 SQL），具有构建、训练和将模型部署到生产中的经验。
曾与多模态机器学习（文本、图像、音频或视频）和/或 LLMs、vLLMs 和 SGLang 合作，并具有微调它们的经验。
具有使用现代 Web 框架（shadcn/ui、tailwind、svelte 或类似库）构建审核用户界面或内部工具的经验。
具有为各种生产中的模型创建训练、微调和处理数据漂移的数据集的经验。
了解流数据、低延迟推理和实时监控。
非常关心儿童在线安全，并希望您的工程工作能直接保护孩子并加强社区。
在快速发展的初创公司中茁壮成长，您将拥有所有权、影响力，并有机会塑造我们的产品和文化。
我们的技术栈
后端：主要是 AWS 服务，包括 Lambda、EC2 和 RDS/DynamoDb
语言：Python、NodeJS
AI：开源 AI 模型、内部智能系统、自定义 LLM 管道和无缝 API 集成。
客户端：通过安全的后端 API 的原生 iOS 和 Android 应用程序
为什么加入我们？
构建下一代 AI 社交平台
我们的平台由我们自己构建和完善的机器学习模型驱动。
成为一个热衷于保护儿童和培养积极社区的团队的一员。
