OpenAI の GPT-6 Astra は幻覚症状が軽減されましたが、隠れたプロンプト注射に対して依然として脆弱です

OpenAI の GPT-6 Astra は、前世代よりも幻覚が少なく、直接即時注入を 99.99 パーセントブロックします。しかし、AI が読み取る文書内に攻撃が隠されている場合でも、このモデルは 8.5% で解読されてしまいます。

概要は情報提供のみを目的としてまとめられています。全文についてはソース リンクを参照してください。デモのエントリは一例です。