TAG ARCHIVE
responsible-ai
MARIA OSブログのresponsible-aiタグに関連する2件の記事。ボンギンカンの判断OS、AIガバナンス、Agentic Company研究をテーマ別に参照しやすい技術記事アーカイブです。
判断OS / 決断インテリジェンスOS
組織の判断を実行可能な意思決定システムに変換するMARIA OS中核研究。
エージェント型企業アーキテクチャ
人間とエージェントの組織、委任境界、役割トポロジー、ガバナンス付き自律性に関する研究。
責任ゲートとAIガバナンス
AIエージェントの安全性、説明責任、フェイルクローズドゲート、監査可能性、HITL制御。
マルチエージェント数学
収束、安定性、ゲーム理論、グラフダイナミクス、マルチエージェント評価の形式モデル。
エビデンス、RAG、ナレッジガバナンス
エビデンスバンドル、検索アーキテクチャ、Graph RAG、ナレッジトラスト、監査可能な推論パイプライン。
Agentic R&Dと判断科学
研究運用、シミュレーションラボ、判断科学、再帰的改善、実験的AIガバナンス。
Agentic Ethics Lab：AIガバナンスにおける構造的倫理のための企業研究所の設計
倫理を哲学的宣言から実行可能・監査可能・進化可能なシステムインフラストラクチャへと変革する、4部門・Gate管理型研究アーキテクチャ
構造的な強制力を伴わない倫理宣言は、組織的な演劇に過ぎない。本論文では、MARIA OSガバナンスアーキテクチャ内に組み込まれた企業研究所である Agentic Ethics Lab を紹介する。この研究所は4つの専門部門（Ethics Formalization、Ethical Learning、Agentic Company Design、Governance & Adoption）を持つファーストクラスのUniverseとして運用される。各部門はFail-Closedの研究Gateの下でAgent-人間ハイブリッドチームを運営する。本論文では、決定グラフ理論を用いてラボのアーキテクチャを形式化し、自己参照的ガバナンス研究が安全性不変量を保持することを証明し、収益目標を持たないが戦略的に整合した企業研究所が、純粋な学術研究や純粋な製品研究の双方よりも責任あるAI推進において優れた成果を上げることを実証する。
実行可能アーキテクチャとしての倫理: 多主体AI統治の計算可能制約化
宣言的倫理を、制約エンジン・ドリフト監視・検証サンドボックスへ落とし込む
倫理原則を運用可能にするため、数式制約化・時系列ドリフト検知・価値衝突可視化・監督整合評価を統合する。導入前シミュレーションで倫理影響を検証する実装フレームを示す。