TAG ARCHIVE

risk-management

MARIA OSブログのrisk-managementタグに関連する4件の記事。ボンギンカンの判断OS、AIガバナンス、Agentic Company研究をテーマ別に参照しやすい技術記事アーカイブです。

判断OS / 決断インテリジェンスOS

組織の判断を実行可能な意思決定システムに変換するMARIA OS中核研究。

エージェント型企業アーキテクチャ

人間とエージェントの組織、委任境界、役割トポロジー、ガバナンス付き自律性に関する研究。

責任ゲートとAIガバナンス

AIエージェントの安全性、説明責任、フェイルクローズドゲート、監査可能性、HITL制御。

マルチエージェント数学

収束、安定性、ゲーム理論、グラフダイナミクス、マルチエージェント評価の形式モデル。

エビデンス、RAG、ナレッジガバナンス

エビデンスバンドル、検索アーキテクチャ、Graph RAG、ナレッジトラスト、監査可能な推論パイプライン。

信頼度と証拠の結合則: エージェント統治のためのキャリブレーション設計

証拠十分性・矛盾圧・出典信頼度に応じて信頼度を制約し、高確信誤答を抑制する

信頼度を内部スコアとして独立に扱うと、証拠が弱いまま高確信出力が生じる。本稿は信頼度を証拠品質と単調結合させる法則を提示し、キャリブレーション誤差とエスカレーション精度を同時に改善する運用原理を示す。

中リスク業務を対象に、人間承認ゲートを組み込んだ方策学習を実装するControl Layer設計

PPOベースのActor-Criticを責任境界付き環境へ適用し、行動空間をゲート条件で動的制約する。方策勾配の制約項と信頼領域更新を通じて、自律性と統治準拠を同時に維持する運用枠組みを示す。

誤検知・見逃し・遅延コストを統合し、ゲート強度を連続制御として最適化する

AML運用のコスト構造を連続ゲート強度 `g` で定式化し、規制制約下で最適点を導く。二値開閉ではなく連続調整として設計することで、検知要件を維持しながら総コストを抑える。

最悪安全リスク最小化を主目的に置き、生産下限を満たす意思決定を導く

生産最適化を『安全制約付き速度追求』ではなく『安全最小化主導』で再定式化する。ラグランジュ双対でゲート閾値を導出し、安全遵守と生産維持のバランスを明示する。