グッドファイアは、新しい「インサイドアウト」モニターが数分の1のコストで不正なAIエージェントを捕捉すると発表

Goodfire は、AI エージェントを抑制するためのより安価な方法であると発表したものを立ち上げたばかりです。2 番目の AI にお金を払ってエージェントの行動をすべて読み取る代わりに、そのモニターはモデルが動作している間モデルの内部を覗き込み、バックアップのみを呼び出します…

概要は情報提供のみを目的としてまとめられています。全文についてはソース リンクを参照してください。デモのエントリは一例です。