TAG ARCHIVE
self-awareness
MARIA OSブログのself-awarenessタグに関連する2件の記事。ボンギンカンの判断OS、AIガバナンス、Agentic Company研究をテーマ別に参照しやすい技術記事アーカイブです。
判断OS / 決断インテリジェンスOS
組織の判断を実行可能な意思決定システムに変換するMARIA OS中核研究。
エージェント型企業アーキテクチャ
人間とエージェントの組織、委任境界、役割トポロジー、ガバナンス付き自律性に関する研究。
責任ゲートとAIガバナンス
AIエージェントの安全性、説明責任、フェイルクローズドゲート、監査可能性、HITL制御。
マルチエージェント数学
収束、安定性、ゲーム理論、グラフダイナミクス、マルチエージェント評価の形式モデル。
エビデンス、RAG、ナレッジガバナンス
エビデンスバンドル、検索アーキテクチャ、Graph RAG、ナレッジトラスト、監査可能な推論パイプライン。
Agentic R&Dと判断科学
研究運用、シミュレーションラボ、判断科学、再帰的改善、実験的AIガバナンス。
Capability Gap Detection — Agentが自分の能力不足を認識するメタ認知アーキテクチャ
形式的ギャップ分析を通じて、自分にできないことを認識し自律的な自己拡張をトリガーする方法
自己拡張型Agentには、ほとんどのアーキテクチャが無視する前提条件がある。自分に何ができないかを知る能力である。本論文はCapability Gap Detectionをメタ認知レイヤーとして形式化する。必要な能力をAgentの能力モデルと比較し、検出されたギャップを分類し、緊急度とインパクトで優先順位付けし、合成・要求・委任・エスカレーションの判断を下す。能力カバレッジメトリック、ギャップエントロピー測度、マルチAgent間ギャップ交渉プロトコルを導入する。
エージェント企業におけるメタ認知: AIシステムが「知らないこと」を知る必要性
潜在ガバナンス密度と観測可能カバレッジを分け、Exact/Buffered 安定条件を示す
エージェント企業を制約付きグラフ拡張MDPとして定式化し、潜在密度 D_t と Top-K 候補行動上の観測 proxy D_hat_t を区別する。減衰影響行列 W_eff,t = (1 - κ_t)W_t に対し exact 条件 `(1-κ_t)λ_max(W_t)<1` と buffered 条件 `λ_max(W_t)<1-κ_t` を導出し、各制約が組織の自己観測点として機能することを示す。