TAG ARCHIVE

gate-design

MARIA OSブログのgate-designタグに関連する2件の記事。ボンギンカンの判断OS、AIガバナンス、Agentic Company研究をテーマ別に参照しやすい技術記事アーカイブです。

責任ゲートとAIガバナンス

AIエージェントの安全性、説明責任、フェイルクローズドゲート、監査可能性、HITL制御。

マルチエージェント数学

収束、安定性、ゲーム理論、グラフダイナミクス、マルチエージェント評価の形式モデル。

MAXスコアFail-Closed証明: 平均化ゲートの構造的限界と代替設計

平均スコアが重大リスクを覆い隠す条件を示し、MAX判定の安全特性を解析する

複数リスク軸を平均化すると、単一軸の高危険度が希釈される場合がある。MAXベース判定の安全上の利点を形式的に示し、fail-closed設計での誤許容抑制条件を提示する。

誤判断損失と遅延損失を同時最小化する制約最適化設計

ゲート強化で誤許容は減る一方、遅延は増える。この相反を制約最適化として扱い、ラグランジュ乗数とKKT条件でリスク層別の最適ゲート強度を導出する。