要旨
本稿は、人間-AI協調意思決定システムにおける責任分解点を数理的に定式化する。EU AI Act、NIST AI RMF、ISO 42001、企業倫理憲章など既存の枠組みは定性的指針に依存するが、本モデルは「いつ人間責任を必須化し、いつ自律実行を許容できるか」を定量化する。具体的には、影響度・不確実性・外部性・説明責任圧力・新規性の5変数で責任需要関数 R(d) を定義し、分解しきい値 τ によって人間関与領域と自動化領域を分割する。さらに、能力成長と文脈変化に伴う責任境界の時間変化を動的平衡モデルで表現する。2つの命題により、(1) 外部性と説明責任は平均化で消せない非代替な責任下限を作ること、(2) 責任需要を下げる機構は証拠蓄積と学習のみでありモデル能力それ自体ではないことを示す。
1. 序論: なぜ責任を形式化する必要があるか
判断にはスケールがありません。実行は可能です。この観察は、企業の AI ガバナンスの中心的な緊張を表しています。組織は自律エージェントを導入して、調達の承認、コードの導入、コンプライアンス評価、リソースの割り当てなどの意思決定をマシンスピードで実行しますが、それらの意思決定を管理するべき判断は人間の認知帯域幅に閉じ込められたままです。その結果、実行速度とガバナンス能力の間のギャップが拡大します。
AI ガバナンス コミュニティは、定性的フレームワークの急増で対応してきました。 EU AI 法はシステムをリスク層に分類し、高リスクのアプリケーションに対する人間の監視を義務付けています。 NIST AI RMF は、ガバナンス、説明責任、リスク管理を重視しています。企業倫理憲章は、公平性、透明性、人間の尊厳への取り組みを宣言しています。しかし、これらのフレームワークはいずれも、定量的な停止条件、つまり意思決定の属性を入力として受け取り、人間の責任が必要かどうかを出力する計算可能な関数を提供していません。
このギャップは単に学問的なものだけではありません。 2 つの調達決定について考えてみましょう。1 つは 500 ドルの事務用品で、もう 1 つは 500 万ドルの企業インフラストラクチャです。どちらも「支出権限」を伴い、同じガバナンスの枠組みを通過します。しかし、それらは根本的に異なるレベルの監視を要求します。よく理解されているルーチンタスクと新しいエッジケースは、同じワークフローを共有している可能性がありますが、まったく異なるリスクプロファイルを伴います。定性的なカテゴリ (「高リスク」対「低リスク」) は、この豊富で連続的な変動を個別のビンに分類し、ガバナンスが必要とする情報を正確に失います。
私たちは、責任は連続した計算可能な量として形式化されなければならないと主張します。各意思決定ノードに測定可能な属性を割り当て、明示的なしきい値関数を定義することで、組織は人間の関与の適切なレベルを動的かつ透過的に決定するシステムを構築できます。この文書では、組織の判断を実行可能なガバナンス ロジックに変換する数学的フレームワークである 責任分解点モデル (RDPM) を紹介します。
2. 問題設定: 意思決定グラフ
組織の意思決定ランドスケープを有向 意思決定グラフ D = (V, E) としてモデル化します。ここで、各頂点 d ∈ V はアトミックな意思決定ノードであり、各有向エッジ (d_i, d_j) ∈ E は依存関係または順序付け制約を表します。各決定ノード d に対して、区間 [0, 1] で 5 つの 正規化された属性 を定義します。
- 「I(d)」: 影響の大きさ - 決定が誤って実行された場合の影響の範囲。 50ドルの払い戻しは影響が少ないです。 500 万ドルのインフラ調達は大きな影響を及ぼします。
- 「U(d)」: 不確実性 - 意思決定時に入手可能な情報の不確実性の度合い。十分に文書化された日常的なプロセスは不確実性が低くなります。史上初の規制当局への申請には高い不確実性が伴います。
- `E(d)`: 外部性 - 結果がローカル システムの境界を越えて波及する程度。内部コードのリファクタリングは外部性が低いです。顧客向けの API 変更には高い外部性があります。
- 「A(d)」: 説明責任の圧力 - 人間の責任に対する制度的、法的、または社会的要求の強さ。自動化されたログ ローテーションでは、責任のプレッシャーが低くなります。医学的診断の推奨には高い責任のプレッシャーがかかります。
- 「N(d)」: 新規性 - エージェントのトレーニング配布および操作履歴からの現在の意思決定コンテキストの距離。 10,000 回実行されたタスクでは新規性が低くなります。初めて遭遇する課題は新規性が高い。
各属性は、観察可能なシステム テレメトリ、履歴記録、組織ポリシーから計算され、再現性と監査可能性が保証されます。 [0, 1] への正規化により、異種の決定領域間で一貫した比較が可能になります。
最小ゲート・パイプライン:
1) 入力ベクトル x(d) = [I(d), U(d), E(d), A(d), N(d)]
2) 単一スコア R(d)
3) R(d) ≥ τ なら人間エスカレーション
3. 責任需要関数
責任需要関数 R(d) は、非代替な下限項（E, A）と加算項（I, U, N）を分離したハイブリッド合成として定義する。
重みベクトル w = (w_I, w_U, w_E, w_A, w_N) は Σw_i = 1 かつ各 w_i > 0 を満たす。ここでの設計上の要点は、E と A が平均化によって相殺されないことにある。非局所性の高い軸が1つでも高ければ、責任需要には硬い下限が残る。I, U, N は連続的な感度を保持する加算項として機能する。
より強い OR 的挙動が必要な運用では、次の有界代替形を使う。
この形は、どれか1軸のリスクが高い場合に R(d) を急峻に引き上げつつ、R(d) ∈ [0,1] を保つ。
3.1 分解しきい値
分解閾値 τ ∈ (0, 1) とゲート述語を定義します。
この定式化は、曖昧な自律性ルールを 計算可能な境界 に置き換えます。システムを通過するすべての決定は、それがエスカレーションまたは自律的に実行された理由を正確に報告できます。つまり、その「R(d)」値が該当する「τ」を超えたか下回ったかなどです。しきい値はグローバルな定数ではなく、リスク許容度、規制要件、および過去のインシデント率に基づいて組織単位ごとに調整されます。
意思決定集合 \Omega に対して完全自動化とは、すべての d ∈ \Omega で AutoAllowed(d) が成り立つことを意味し、その必要条件は τ > \sup_{d∈\Omega} R(d) である。これは政策上のトレードオフを明示する: τ を上げるほど自動化率は上がるが、人間監督カバレッジは下がる。
3.2 中核的洞察
このモデルは、自動化の許可がモデルの能力ではなく責任の要求によって決定されることを確立しています。 「R(d) = 0.85」および「τ = 0.62」の決定に基づいて動作する高度な能力を持つ AI エージェントが停止されるのは、知能が不十分だからではなく、その決定が自動化のしきい値を超える責任を負っているためです。逆に、「R(d) = 0.15」で日常的な決定を実行する控えめなエージェントは許可されます。知性は無関係です。責任構造がすべてです。
4. 動的平衡シフト
責任の境界は静的なものではありません。 AI エージェントが学習し、運用コンテキストが進化するにつれて、需要関数も適応する必要があります。この時間的進化を次のようにモデル化します。
どこ：
- 「L(d, t) ≥ 0」は 蓄積された学習、つまり区間「[t, t+1]」にわたる不確実性「U(d)」と新規性「N(d)」を減らす証拠の蓄積とスキルの向上を表します。
- 「S(t) ≥ 0」は コンテキスト シフト - 規制の変更、環境の混乱、分布の変動、または時点 t で検出された新たな利害関係者の期待を表します。
- 「γ、δ > 0」は、責任の移転速度と状況の混乱に対する感度を制御するシステム パラメーターです。
重要な洞察は、学習がコンテキスト シフトを上回る場合にのみ、責任が自律性に移行するということです。「γ · L(d, t) > δ · S(t)」の場合にのみ、「R(d, t)」は時間の経過とともに減少します。エージェントが学習するよりも早く環境が変化すると、責任に対する要求が増大し、自動的に人間がループに引き戻されます。これにより、自己修正均衡が形成されます。システムは、証拠によって正当化できない自律性を決して許可せず、エージェントの実証された能力を超えて状況が悪化した瞬間に自律性を取り消します。
5. 形式的命題
命題1: 非代替な責任下限
主張. `ρ(d) = max(w_E·E(d), w_A·A(d))` と定義する。`w_E, w_A > 0` の下で `E(d) > 0` かつ `A(d) > 0` なら `ρ(d) > 0` かつ `R(d) ≥ ρ(d)` が成り立つ。したがって責任需要には厳密な正の下限が存在し、`I(d)`, `U(d)`, `N(d)` を下げても消せない。
証明. 定義より ρ(d) = max(w_E·E(d), w_A·A(d))。E(d), A(d), w_E, w_A はいずれも正なので、w_E·E(d) と w_A·A(d) は正であり、ゆえに ρ(d) > 0。さらに RDPM の定義から
R(d) = ρ(d) + w_I·I(d) + w_U·U(d) + w_N·N(d) ≥ ρ(d)。
従って R(d) は加算項操作だけで ρ(d) 未満に下げられない。∎
系（集合上の自動化境界）. 任意の集合 \Omega で ρ_min = inf_{d∈\Omega} ρ(d) > 0 とする。もし政策が τ ≤ ρ_min を採るなら、すべての d ∈ \Omega で HumanRequired(d) が真になる。よって \Omega 上の完全自動化は、τ をこの下限より明示的に高くしない限り不可能である。
含意. 外部影響や制度的説明責任を伴う意思決定では、残余責任は性能依存ではなく構造的である。しきい値政策で管理はできるが、スコア内部の平均化で消去はできない。
命題2: 証拠・学習による低減原理
声明。 *「R(d)」を低減する唯一のメカニズムは、「U(d)」(不確実性)と「N(d)」(新規性)を低減するメカニズムです。具体的には、「L(d, t)」はこれら 2 つのチャネルを通じて排他的に動作します。
証明. 影響 I(d)、外部性 E(d)、説明責任 A(d) は組織内での意思決定の構造的位置により決まり、エージェント性能では決まらない。エージェントの認識状態に依存するのは、不確実性 U(d)（証拠蓄積で低減）と新規性 N(d)（運用経験とスキル補充で低減）だけである。ゆえに L(d, t) が R(d) を下げる経路は U と N に限られる。ハイブリッド RDPM でも同様で、学習は加算項を下げられても ρ(d) 下限は消せない。∎
意味. 証拠インフラストラクチャへの投資 (「U」の削減) とエージェントのトレーニングの範囲 (「N」の削減) が、自律的な運用範囲を拡大する唯一の方法です。モデルのインテリジェンスだけでは、証拠や経験がなければ、責任の境界を移動することはできません。
6. MARIA OS での実装
責任分解モデルは MARIA OS コンポーネントに直接マッピングされます。
- 証拠層 → U(d) 削減。 証拠バンドル システム (
lib/engine/evidence.ts) は、各意思決定ノードの出所追跡された証拠を集めます。証拠密度が増加すると、「U(d)」が減少し、「R(d)」が減少し、決定が「τ」閾値を下回る可能性があります。 - スキル補充 → N(d) 削減 エージェントが新しいシナリオに遭遇し、それらを正常に解決すると (または人間による修正から学習すると)、その決定クラスの新規性スコアは時間の経過とともに減少します。
- ゲート エンジン → τ アプリケーション。 デシジョン パイプラインのゲート評価 (
lib/engine/decion-pipeline.ts) は、「検証済み → 承認済み」または「検証済み → 承認必須」遷移で「R(d)」を計算します。 「R(d) ≥ τ」 の場合、決定は人間の承認に委ねられます。R(d) < τであれば自律的に進行します。 - ゾーン固有の τ キャリブレーション。 MARIA 座標系の各ゾーンは、ローカルのリスク許容度を反映して、独自の「τ」を定義できます。高保証ゾーン (医療機器の調達など) では「τ = 0.40」が設定される場合があり、幅広い決定に対して人間の監視が必要になります。低リスクゾーン (内部文書のタグ付けなど) では、「τ = 0.80」が設定される可能性があります。
すべてのゲート評価により、「R(d)」、該当する「τ」、個々の属性スコア、および結果の分類を含む不変の監査レコードが生成されます。これにより、完全な再現性が保証されます。同じ入力が与えられると、システムは常に同じ責任分類を生成します。
7. 実験プロトコル
MARIA OS ユニバース内で実行可能な 3 つの実験ファミリーを提案します。
実験 E1: 証拠密度 → 責任削減 固定セットのデシジョン ノードの証拠バンドル サイズを段階的に増加します。 「ΔU(d)」とその結果の「ΔR(d)」を測定します。仮説: 証拠項目が追加されるたびに、限界利益が減少して「U(d)」が減少し、凹型の責任減少曲線が生成されます。
実験 E2: 新規性の注入 → 人間の回帰。 エージェントの操作履歴に存在しない新規のタスク タイプを注入します。 「N(d)」の増加とその結果の「HumanRequired」比率を測定します。仮説: 「N(d) > 0.6」の新しいタスクは、他の要因に関係なく人間によるエスカレーションを引き起こします。
実験 E3: 責任のプレッシャー → しきい値の再調整。 ユニバース内のすべてのノードにわたって「A(d)」を増加させる規制変更をシミュレートします。目標の「HumanRequired」比率を維持するために必要な有効な「τ」のシフトを測定します。仮説: 「A(d)」が 20% 増加すると、同じガバナンス姿勢を維持するには、「τ」を約 8 ～ 12% 削減する必要があります。
評価指標: HumanRequiredRatio、平均 R(d)、R 分布エントロピー、ゲート ストップ率、完了率、監査再現性 (1,000 件の試験にわたる同じ証拠 → 同じ分類)。
8. 議論
8.1 責任は委譲されない - 再配分される
AI ガバナンスの議論でよくある誤解は、自律エージェントを導入すると責任がマシンに「委任される」ということです。 RDPM ではこれが構造的に不可能になります。責任要求「R(d)」は決定の性質であり、実行者ではありません。 「R(d) ≥ τ」 の場合、エージェントの能力に関係なく、人間が責任を負わなければなりません。 「R(d) < τ」の場合、システムは、決定の構造的特性 (影響が少ない、不確実性が低い、外部性が低い) が自律的な実行を正当化すると判断します。責任は委任されていません。これは、自動化に安全な範囲内として構造的に分類されています。
8.2 暗黙ガバナンスの明示化
すべての組織には、暗黙の責任分解ポイント、つまり「マネージャーの承認が必要なもの」と「チームが決定できるもの」に関する非公式ルールがすでにあります。これらのルールは組織的な知識として存在し、不均一に分布し、一貫性なく適用されています。 RDPM は、この暗黙的な構造を明示的、計算可能、監査可能にします。会話は「AI を信頼できますか?」から変わります。 「この決定クラスの R(d) は何ですか? τ は正しく校正されていますか?」
8.3 規制整合
EU AI 法のリスク層分類は、自然に RDPM にマッピングされます。つまり、高リスク AI システムは、高い「R(d)」値を持つ意思決定ノードに対応します。 NIST AI RMF の「ガバナンスと説明責任」機能は、分解しきい値「τ」とそれが生成する監査証跡にマップされます。 RDPM は、これらのフレームワークが想定しているものの定義されていない正式な基盤を提供します。
9. 結論
本稿は Responsibility Decomposition Point Model (RDPM) を提示した。これは責任ガバナンスを定性的判断から計算可能関数へ変換する形式枠組みである。主な貢献は、(1) 外部性・説明責任に対する非代替下限と、影響・不確実性・新規性の加算項を併せ持つ R(d)、(2) 監査可能で再現可能な停止条件を与える τ、(3) 学習と文脈変化に伴う責任境界の時間変化を扱う動的平衡モデル、(4) 責任下限性質と証拠・学習低減原理を示す2命題、の4点である。
このフレームワークは、「人間が関与すべきか?」という質問を変換します。意見から計算へ。 RDPM 準拠のシステムを導入している組織は、あらゆる決定に対して正確で監査可能な回答、つまり「R(d)」値、該当する「τ」、およびその結果の分類を取得できます。これらはすべて、不変の監査レコードとして保存されます。
今後の取り組みには、運用データからのドメイン固有の重み学習、より広範な意思決定インテリジェンス理論フレームワークとの統合、責任を複数のアクター間で同時に分割する必要があるマルチエージェントの協調的意思決定への拡張などが含まれます。