TAG ARCHIVE

confidence-calibration

MARIA OSブログのconfidence-calibrationタグに関連する1件の記事。ボンギンカンの判断OS、AIガバナンス、Agentic Company研究をテーマ別に参照しやすい技術記事アーカイブです。

判断OS / 決断インテリジェンスOS

組織の判断を実行可能な意思決定システムに変換するMARIA OS中核研究。

責任ゲートとAIガバナンス

AIエージェントの安全性、説明責任、フェイルクローズドゲート、監査可能性、HITL制御。

エビデンス、RAG、ナレッジガバナンス

エビデンスバンドル、検索アーキテクチャ、Graph RAG、ナレッジトラスト、監査可能な推論パイプライン。

信頼度と証拠の結合則: エージェント統治のためのキャリブレーション設計

証拠十分性・矛盾圧・出典信頼度に応じて信頼度を制約し、高確信誤答を抑制する

信頼度を内部スコアとして独立に扱うと、証拠が弱いまま高確信出力が生じる。本稿は信頼度を証拠品質と単調結合させる法則を提示し、キャリブレーション誤差とエスカレーション精度を同時に改善する運用原理を示す。