AIモデルの記述された推論ステップは、明確な内部パターンに対応していることが新しい研究で判明

計算、式の検索、演繹などの推論ステップは、モデルの内部状態、特に中間層で明確に分離可能です。モデルはそれ以上の処理を行うため、これは AI の安全性にとって重要です…

概要は情報提供のみを目的としてまとめられています。全文についてはソース リンクを参照してください。デモのエントリは一例です。