TAG ARCHIVE
responsibility-gates
MARIA OSブログのresponsibility-gatesタグに関連する6件の記事。AIエージェントの安全性、説明責任、フェイルクローズドゲート、監査可能性、HITL制御。 検索エンジンとLLMが技術テーマ単位で参照しやすい正規アーカイブです。
判断OS / 決断インテリジェンスOS
組織の判断を実行可能な意思決定システムに変換するMARIA OS中核研究。
エージェント型企業アーキテクチャ
人間とエージェントの組織、委任境界、役割トポロジー、ガバナンス付き自律性に関する研究。
責任ゲートとAIガバナンス
AIエージェントの安全性、説明責任、フェイルクローズドゲート、監査可能性、HITL制御。
マルチエージェント数学
収束、安定性、ゲーム理論、グラフダイナミクス、マルチエージェント評価の形式モデル。
エビデンス、RAG、ナレッジガバナンス
エビデンスバンドル、検索アーキテクチャ、Graph RAG、ナレッジトラスト、監査可能な推論パイプライン。
Agentic R&Dと判断科学
研究運用、シミュレーションラボ、判断科学、再帰的改善、実験的AIガバナンス。
学習状態ベクトルモデル: 教育AIのための多次元学習者モデリング
学習者状態を高次元ベクトルで管理し、責任ゲート付き介入で偏った最適化を防ぐ
学力指標だけに依存する最適化を避けるため、知識・自信・動機・メタ認知・社会性を同時に追跡する。多次元状態推定とゲート付き介入により、単一指標偏重による学習劣化を抑制する。
責任階層型RAG出力制御: ゲート統治で検索生成精度を高める数理モデル
Top-k最適化に加えて、リスク階層に応じた検証強度制御を導入する
RAG精度を検索品質だけでなく検証統治で引き上げるため、責任ティア別ゲートを設計する。低リスク高速応答を維持しつつ、高リスク回答の検証密度を高めてハルシネーション低減を図る。
エージェント統治のFail-Closedゲート設計: 責任分解と最適エスカレーション
責任境界を崩さないための最小アーキテクチャとしてのゲート制御
本番変更や外部呼び出しの意思決定に対し、失敗時に閉じるゲートを責任分解の基盤として定式化する。人間介入率と遅延のトレードオフを最適化し、責任被覆を維持する設計を示す。
マルチユニバース投資意思決定エンジン: 競合評価を残す資本配分最適化
単一スコア圧縮を避け、複数評価宇宙の衝突を可視化して配分する
財務・市場・技術・組織・倫理・規制の6軸で案件を評価し、平均化で埋もれる衝突を `max` 系ゲートで顕在化する。制約最適化と事前シナリオ検証で破局リスクを抑える投資統治を提示する。
AML検知責任ゲート最適化: 反マネロンの制約付き損失最小化
誤検知・見逃し・遅延コストを統合し、ゲート強度を連続制御として最適化する
AML運用のコスト構造を連続ゲート強度 `g` で定式化し、規制制約下で最適点を導く。二値開閉ではなく連続調整として設計することで、検知要件を維持しながら総コストを抑える。
エージェント組織のゲーム理論: 協調均衡を設計する責任ゲート
囚人のジレンマ型相互作用を、罰則設計と証拠強制で協調側へ移す
局所合理性が全体非効率を生む反復ゲームを対象に、責任ゲート罰則が均衡をどう変えるかを解析する。利得行列設計と検出強化を組み合わせ、協調収束条件を実装可能な形で提示する。