Spanda: Rust におけるサブマイクロ秒の LLM 認識論的不確実性

私たちは、オープンソースのサブマイクロ秒 Rust エンジンと、LLM 認識的不確実性の定量化および幻覚ゲーティング用のゲートウェイを構築しました。 GitHub: https://github.com/Adarshent/Spnda Python SDK: pip install spnda なぜ構築するのか…

概要は情報提供のみを目的としてまとめられています。全文についてはソース リンクを参照してください。デモのエントリは一例です。