OpenAIがGPT-Redをリリース:自動レッドチームテストによるモデルの堅牢性強化

OpenAI 发布自动化红队模型 GPT-Red，用于部署前发现漏洞，并在训练阶段生成攻击样本。其攻击被用于对抗训练 GPT-5.6 Sol，以提升模型面对直接提示注入时的鲁棒性。

公开材料显示，GPT-Red 采用自对弈强化学习训练，使用了 OpenAI 后训练中前所未有的计算规模。该模型能够攻破此前几乎所有模型，为后续对抗训练提供攻击样本。

Aioga 判断，GPT-Red 的重点不只是自动发现漏洞，而是把红队攻击直接纳入模型训练流程，使安全测试与鲁棒性改进形成更紧密的迭代机制。

值得关注的是，GPT-5.6 Sol 在直接提示注入基准测试中的失败率，已降至四个月前最佳生产模型的六分之一。这可能表明自动化攻击样本对特定安全训练具有实际价值。 后续值得关注 OpenAI 是否披露更完整的基准设置、失败率口径与跨模型测试结果，以及 GPT-Red 在部署前评估和训练阶段的具体使用方式，以判断其效果能否稳定延伸到更多场景。