GPT-Red: 堅牢性のための自己改善のロックを解除する

GPT-Red は、セルフプレイを使用して AI の安全性、調整、プロンプト インジェクションの堅牢性を向上させる OpenAI の自動レッド チーミング システムです。

概要は情報提供のみを目的としてまとめられています。全文についてはソース リンクを参照してください。デモのエントリは一例です。