GPT-Red：通过自我改进提升模型稳健性

Thu, 16 Jul 2026 08:30:00 +0800

来源记录回退说明：原文保存器无法访问官方 OpenAI URL，原因是 openai.com 的 DNS 解析失败。以下内容仅为本地 X 数据集中保留的官方公告与线程材料之译文，并非对无法获取的文章正文进行重建。

官方公告

介绍 GPT-Red。

它是一个内部自动化红队系统，致力于大规模发现模型的提示注入漏洞，帮助我们在更广泛部署前构建更强的防御机制。

GPT-Red 通过对抗式自我博弈学习：它的目标是对多种具有挑战性的防御方模型实施提示注入。

GPT-Red 找到的每一次成功攻击，都会被用于改进这些防御方模型，推动 GPT-Red 持续发现范围更广、复杂度更高的失效模式。

AI agents 已经在用于提升我们的下一代模型能力。

我们相信，借助 GPT-Red，我们已开始为安全解锁类似的飞轮：今天的模型可以帮助明天的模型变得更稳健、更对齐、更值得信赖。

Thu, 11 Jun 2026 08:30:00 +0800

更新于一周前。

请注意：由于近期发布较多、邮件量上升，回复时间可能会比平时更长。Anthropic 表示，会尽快处理申诉及相关邮件。

作为 Anthropic 安全流程的一部分，账号可能会因以下原因被封禁：

如果你认为自己的账号被错误暂停或终止，请填写申诉表，并提供账号信息，以便 Safeguards 团队调查账号为何被停用。

作为 Anthropic 安全流程的一部分，如果 Anthropic 认为用户的 prompt 违反了《Usage Policy》，用户可能会收到警告。对于 API 客户，这类警告会与整个 API 账号层面持续累积的违规行为阈值相关联。

如果你认为某次警告是误发的，请发送邮件至 usersafety@anthropic.com，说明具体情况并附上你的账号信息。