OpenAI 详细介绍了 GPT-Red：一种内部自动红队模型，在快速注入时可将人类红队成员击败 84% 至 13%

OpenAI 训练了 GPT-Red，这是一种仅限内部的攻击者模型，使用自我对弈强化学习来对抗一群防御者 LLM。它在复制的间接即时注射竞技场上以 84% 比 13% 的比分击败了人类红队队员……

摘要仅供参考,请点击来源链接查看全文。演示条目为示意。