実行可能アーキテクチャとしての倫理: 多主体AI統治の計算可能制約化

1. はじめに: 倫理実装のギャップ

AI エージェントを導入するすべての企業は倫理声明を発行しています。これらの声明は、公平性、透明性、説明責任、人間の尊厳への取り組みを宣言します。これらは慎重に文言され、法務チームによって検討され、取締役会によって承認され、企業の Web サイトに掲載されます。そして、彼らは、ほぼあらゆる測定可能な意味で、彼らが統治すると称するシステムから切り離されています。

この断絶は偽善ではありません。それはアーキテクチャの問題です。倫理声明は自然言語で書かれています。 AI エージェントは、数学的目標、制約関数、および意思決定ポリシーに基づいて動作します。自然言語による宣言と計算による実行の間には、どんなにトレーニング、文化構築、コンプライアンス監視を行っても埋めることのできないギャップが存在します。ギャップは行動的なものではなく構造的なものであるためです。 「保護された属性に基づいて差別はしない」として表現される公平性の原則は、エージェントの意思決定パイプラインが評価できる制約にまとめられない限り、エージェントの意思決定に影響を与えることはできません。 「すべての重要な意思決定は追跡可能でなければならない」という説明責任要件は、ガバナンス アーキテクチャがすべての意思決定ノードで証拠バンドルの作成を義務付けない限り、効果がありません。

私たちはこれを 倫理実装ギャップ と呼んでいます。つまり、組織が宣言した内容と、その計算システムが強制した内容との間の距離です。この論文の中心的なテーマは、このギャップを埋めるには、倫理原則を哲学的なコミットメントとしてではなく、エンジニアリング仕様、つまり他のすべてのエージェントの行動を支配する同じ意思決定パイプライン アーキテクチャ内で編集、評価、監視、強制できる形式的な制約として扱う必要があるということです。

1.1 なぜ哲学は必要だが十分ではないのか

私たちは AI 倫理の哲学的基盤を否定しません。何が公正な決定を構成するのか、分散システムにおける説明責任は何を意味するのか、そして競合する道徳的価値観のバランスをどう取るかという問題は、厳密な哲学的推論を必要とする真の哲学的問題です。しかし、哲学的推論は原則を生み出すものであり、実装を生み出すものではありません。そして、マルチエージェントガバナンスシステムでは、実装のない原則は不活性です。

セーフティクリティカルなシステムエンジニアリングからの類似点を考えてみましょう。 「航空機は回復不能な飛行状態になってはいけない」という原則は、意味のある安全要件です。しかし、それは、特定の迎角制限、荷重率の境界、対気速度の制約、自動回復操作などのエンベロープ保護ロジックにコンパイルされた場合にのみ強制可能になります。原則はエンジニアリングの指針となります。エンジニアリングはその原理を実現します。どちらか一方だけでは十分ではありません。

倫理原則とガバナンスアーキテクチャの間にも同じ関係が成り立つはずです。 「いかなる決定も保護された属性に基づいて差別してはならない」という原則は、決定結果に対する保護された属性の影響を制限する制約方程式にまとめられる必要があります。 「影響の大きい決定にはすべて人間によるレビューが必要である」という原則を、計算された影響しきい値を超える人間によるエスカレーションを強制するゲート構成に組み込む必要があります。 「決定結果は説明可能でなければならない」という原則は、ゲート評価ごとに説明の生成を義務付ける証拠バンドル要件にまとめられる必要があります。

1.2 実行可能な倫理の 5 つの柱

この論文では 5 つの数学的フレームワークを紹介し、それぞれが倫理実装ギャップの異なる側面に対処しています。

• 倫理的制約の形式化 (セクション 3): 自然言語の倫理原則を、MARIA OS 意思決定パイプラインが評価できる形式的な制約方程式に変換する方法。
• 倫理的漂流の検出 (セクション 4): 個々の決定が準拠しているように見える場合でも、システムの倫理的動作が時間の経過とともに低下しているかどうかを測定する方法。
• 多宇宙倫理対立マッピング (セクション 5): 宇宙間の対立として現れる倫理原則間の構造的緊張を特定し、管理する方法。
• 人間による監視の調整 (セクション 6): 承認ワークフローにおける人間の倫理的判断の一貫性を測定し、改善する方法。
• 倫理サンドボックス シミュレーション (セクション 7): 倫理ポリシーを運用システムに展開する前に、その下流の社会的影響を評価する方法。

これら 5 つの柱は独立したものではありません。制約の形式化により、ドリフト検出のための入力言語が提供されます。ドリフト検出により、マッピングの矛盾が説明される異常が表面化します。競合マッピングにより、人間の監視によって検証される仮説が生成されます。人間の監視による調整は、制約の改善にフィードバックされます。サンドボックス シミュレーションは、展開前にサイクル全体をテストします。これらは共に、閉ループの倫理的ガバナンス システムを形成します。

1.3 MARIA OS アーキテクチャとの関係

5 つのフレームワークはすべて、既存の MARIA OS ガバナンス インフラストラクチャと統合するように設計されています。 MARIA 座標系 (「G.U.P.Z.A」) は、あらゆる組織レベルでの倫理的制約に対する階層的な対応を提供します。デシジョン パイプラインの 6 段階のステート マシン (「提案済み -> 検証済み -> [承認要求 | 承認済み] -> 実行済み -> [完了 | 失敗]」) は、倫理的制約が評価される強制ポイントを提供します。フェイルクローズド ゲートは、倫理的制約に違反した場合に実行を停止するメカニズムを提供します。証拠バンドルは、倫理的決定の追跡可能性のための監査証跡を提供します。責任ゲートは、倫理的に曖昧な決定に対する人間のエスカレーション パスを提供します。

セクション 5 で紹介される倫理ユニバースは、MARIA 座標系内の新しいファーストクラス ユニバース (座標 G1.U_E が割り当てられています) であり、あらゆる決定を倫理的観点から評価し、既存のユニバース評価と並行して MAX ゲート関数に参加する倫理スコアを生成します。

1.4 エンジニアおよび投資家向け

エンジニア向けに、このペーパーでは、制約 DSL 構文、ドリフト検出アルゴリズム、競合ヒートマップ生成手順、キャリブレーション プロトコル、シミュレーション フレームワーク アーキテクチャを含む 5 つの新しいサブシステムの正式な仕様を提供します。各仕様は、MARIA OS コードベース内の実装可能なコンポーネントに直接マッピングされます。 投資家向けに、このペーパーでは、戦略的価値のある機能、つまり、アーキテクチャ上の手段を通じて企業倫理をより監査可能、測定可能、強制可能にする機能について説明します。実証可能な AI ガバナンス (EU AI 法、NIST AI RMF、ISO/IEC 42001) がますます求められる規制環境では、倫理管理を検査およびテストできる能力は、宣言のみに依存するよりも大幅に信頼性が高くなります。

1.5 紙の構造

セクション 2 では数学的な予備知識を提供します。セクション 3 では、倫理的制約形式化エンジンを形式化します。セクション 4 では、倫理的漂流検出モデルを開発します。セクション 5 では、多宇宙倫理紛争マッピングを紹介します。セクション 6 では、人間による監視の調整モデルを示します。セクション 7 では、倫理サンドボックス シミュレーション フレームワークを設計します。セクション 8 では、5 つの柱すべてをエージェント倫理ラボに統合します。セクション 9 では実験計画について説明します。セクション 10 では、期待される結果を示します。セクション 11 では、影響、制限、および今後の取り組みについて説明します。セクション 12 は終了です。

2. 数学的予備試験

この文書全体で使用される形式的なオブジェクトと表記法を確立します。すべての定義は MARIA OS データ モデルと座標系に基づいています。

2.1 意思決定空間と倫理的背景

定義 2.1 (決定空間)。 D を MARIA OS システムで可能なすべての決定の空間とします。決定「d in D」はタプル「d = (a, c, t, s, e)」です。ここで、「a」は提案されたアクション、「c in C」はコンテキスト (要求側エージェントの MARIA 座標を含む)、「t」はタイムスタンプ、「s」は現在のパイプラインステージ、「e」はこれまでに蓄積された証拠バンドルです。

定義 2.2 (倫理原則)。 倫理原則「pi」は、道徳規範を表す自然言語ステートメントです。組織が採用する一連の倫理原則を「Pi = {pi_1, pi_2, ..., pi_M}」とします。

定義 2.3 (倫理的制約)。 倫理的制約 eta は、決定を倫理遵守スコアにマッピングする計算可能な関数 eta: D -> [0, 1] です。0 は完全な違反を示し、1 は完全な遵守を示します。 H = {eta_1, eta_2, ..., eta_K} を K 個のコンパイルされた倫理的制約のセットとする。

定義 2.4 (倫理コンパイル関数)。 倫理コンパイル関数 Phi:Pi -> H は、自然言語の倫理原則を計算可能な倫理制約にマッピングします。コンパイルは多対多になる可能性があります。1 つの原則が複数の制約を生成する場合があり、1 つの制約が複数の原則の側面を実装する場合があります。

2.2 多世界の倫理評価

MARIA OS アーキテクチャでは、各ユニバース「U_j」がドメイン固有の観点から決定を評価します。 Ethics Universe U_E は、倫理的な観点から決定を評価します。決定「d」のゲート評価により、ユニバース スコアのベクトルが生成されます。

$ g(d) = (g_1(d), g_2(d), ..., g_N(d), g_E(d)) (ゲートスコアベクトル)

ここで、「g_j(d) in [0, 1]」はユニバース「U_j」からのスコアであり、「g_E(d)」は倫理ユニバースからのスコアです。 MAX ゲート関数は、最終的なゲート決定を生成します。

$ GateDecision(d) = max_j(risk_j(d)) > tau_blockの場合はブロック、max_j(risk_j(d)) > tau_pauseの場合は一時停止、それ以外の場合は許可 (MAXゲート機能)

ここで、risk_j(d) = 1 - g_j(d) はユニバース U_j からのリスク スコアであり、tau_block、tau_pause は設定可能なしきい値です。

2.3 一時的な決定履歴

定義 2.5 (決定履歴)。 決定履歴 H_T = {d_1, d_2, ..., d_T} は、時間 T までにシステムによって処理される T 個の決定の順序付けされたシーケンスです。 サイズ W のスライディング ウィンドウの場合、時間 t の最新の W 決定について H_{t,W} = {d_{t-W+1}, ..., d_t} と書きます。

定義 2.6 (倫理状態)。 時間 t におけるシステムの倫理状態はベクトル S_t = (bar{eta}_1(t), bar{eta}_2(t), ..., bar{eta}_K(t)) であり、ここで bar{eta}_k(t) = (1/W) sum_{d in H_{t,W}} eta_k(d) は制約 eta_k のウィンドウ化された平均コンプライアンス スコア。

2.4 保護された属性と公平性

定義 2.7 (保護された属性セット)。 A_P = {a_1, a_2, ..., a_P} を P の保護された属性 (例: 人種、性別、年齢、障害ステータス) のセットとする。決定 d について、「R^P の x_P(d)」が影響を受けるエンティティの保護された属性ベクトルを表すものとします。

定義 2.8 (結果関数)。 「Y:D -> R」を、決定をその定量的結果 (融資額、治療の優先順位、資源配分など) にマッピングする結果関数とする。 「Y |」と書きます。 A_P = a` は、保護された属性値が指定された条件付き結果の場合です。

3. 倫理的制約定式化エンジン

3.1 問題の記述

中心的な問題はコンパイルです。自然言語の倫理原則「pi」が与えられた場合、制約が (a) 原則の意図に忠実であり、(b) ゲート評価のレイテンシ バジェット内で計算上扱いやすく、(c) 既存の MARIA OS ゲート制約と組み合わせ可能であるように、1 つ以上の計算可能な制約関数 eta_1, ..., eta_k を生成します。

これは、通常の意味での自然言語処理の問題ではありません。私たちは任意の自然言語を「理解」しようとはしません。代わりに、構造化された中間表現 (Ethics-as-Constraint DSL) と、標準的な倫理原則パターンを DSL 式に変換するコンパイル パイプラインを定義します。

3.2 制約としての倫理 DSL

DSL は 5 つの基本的な制約タイプで構成され、それぞれが基本的な倫理的操作に対応します。

タイプ 1: 属性独立性制約 決定結果が保護された属性から統計的に独立していることを強制します。

$ eta_indep(d) = 1 - |Corr(Y(d), x_p(d))|各保護属性 p に対して (属性の独立性)

ここで、「Corr」は、スライディング ウィンドウ「H_{t,W}」上で計算されたピアソン相関係数を示します。結果が保護された属性から完全に独立している場合、制約スコアは 1 に等しく、相関が増加するにつれて 0 に向かって減少します。

タイプ 2: 証拠必須制約 指定された証拠タイプが決定の証拠バンドルに存在することを強制します。

$ eta_evid(d) = (1/R) sum_{r=1}^{R} I(e_r in E(d)) (証拠必須)

ここで、「E(d)」は決定 d の証拠バンドル、「{e_1, ..., e_R}」は R 個の必要な証拠タイプのセット、「I」は指標関数です。必要な証拠がすべて存在する場合、制約スコアは 1 になります。

タイプ 3: 影響閾値制約 影響閾値を超える決定には人間によるレビューが必要であることを強制します。

$ eta_impact(d) = I(impact(d) <= tau_auto) + I(impact(d) > tau_auto) * I(human_reviewed(d)) (衝撃閾値)

ここで、「impact(d)」は計算された影響スコア、「tau_auto」は自律実行しきい値、「human_reviewed(d)」は人間が決定をレビューしたかどうかを示します。影響がしきい値を下回るか、人間がレビューした場合、制約は 1 と評価されます。

タイプ 4: 比例制約 決定の結果の重大度がトリガー条件の重大度に比例することを強制します。

$ eta_prop(d) = 1 - 最大(0, 結果(d)/トリガー(d) - カッパ) / カッパ （比例）

ここで、「consequence(d)」と「trigger(d)」は正規化された重大度スコア、「kappa」は最大許容される結果対トリガーの比率です。 「kappa」を超える値は、制約スコアを線形に減少させます。

タイプ 5: 時間的一貫性制約 同様の決定が時間の経過とともに同様の結果を受け取るように強制し、恣意的な変動を防ぎます。

$ eta_consist(d) = 1 - |Y(d) - Y_bar(N(d))| /Y_max (時間的一貫性)

ここで、N(d) は履歴的に類似した決定のセット (類似性メトリック sim(d, d') > tau_sim によって計算)、Y_bar(N(d)) は類似した決定の平均結果、Y_max は正規化定数です。

3.3 コンパイルパイプライン

自然言語原則から DSL 式へのコンパイルは、4 段階のパイプラインに従います。

ステージ 1: 原則の正規化。 入力原則は、正規の倫理原則パターンのライブラリと照合されます。各パターンは、ドメイン固有の用語用のスロットを備えたテンプレートです。たとえば、パターン NO_DISCRIMINATION(attribute, result) は、「{outcome} に関する決定は {attribute} の影響を受けないものとする」という形式の原則に一致します。

ステージ 2: スロット バインディング。 ドメイン固有の用語は MARIA OS データ モデル フィールドにバインドされます。属性「race」は、保護された属性ベクトル インデックスにバインドされます。結果「ローン承認」は、関連するユニバースの決定結果関数にバインドされます。

ステージ 3: 制約の生成。 正規パターンは 1 つ以上の DSL 制約式を生成します。 「NO_DISCRIMINATION」パターンは、指定された属性と結果のペアごとに属性独立性制約を生成します。

ステージ 4: しきい値の調整。 制約しきい値 (例: tau_auto、kappa、tau_sim) は、過去の決定データから調整されるか、組織のポリシーによって設定されます。

コンパイル パイプラインは次のように形式化されます。

function compile(pi: EthicalPrinciple): EthicalConstraint[] {
  // Stage 1: Match against canonical patterns
  const pattern = matchCanonicalPattern(pi)
  if (!pattern) return [createUncategorizedConstraint(pi)]

  // Stage 2: Bind domain-specific terms
  const bindings = bindSlots(pattern, pi, mariaDataModel)

  // Stage 3: Generate DSL constraint expressions
  const constraints = pattern.generate(bindings)

  // Stage 4: Calibrate thresholds from history
  for (const eta of constraints) {
    eta.thresholds = calibrate(eta, decisionHistory)
  }

  return constraints
}

3.4 コンパイルの形式的性質

定義 3.1 (コンパイルの健全性)。 コンパイル Phi(pi) = {eta_1, ..., eta_k} は次の場合に 健全です: すべての決定 d について、すべてのコンパイルされた制約が満たされる場合 (すべての i について eta_i(d) = 1)、d は原則 pi に違反しません。

定義 3.2 (コンパイルの完全性)。 コンパイル Phi(pi) = {eta_1, ..., eta_k} は次の場合に 完全です: すべての決定 d について、d が原則 pi に違反しない場合、コンパイルされたすべての制約が満たされます。

定理 3.1 (健全性と完全性のトレードオフ). 自明ではない倫理原則 pi (少なくとも 1 つの決定を違反として分類し、少なくとも 1 つを準拠として分類するもの) の場合、原則の意味論が形式言語で完全に指定されていない限り、コンパイルは同時に健全で、完全で、多項式時間で決定可能であることはできません。

証明スケッチ。 この結果は、自然言語に固有の曖昧さから生じます。自然言語原則では複数の解釈が認められ、それぞれが準拠決定と非準拠決定の間の異なる境界を定義します。健全なコンピレーションはすべての有効な解釈を尊重する必要があります (つまり、いかなる解釈の下でも違反するすべての決定をブロックする) が、完全なコンピレーションはすべての解釈の下で準拠するすべての決定を許可する必要があります。境界ケースで解釈が一致しない場合、曖昧さを解決することなく健全性と完全性を同時に達成することはできません。これには正式な仕様が必要です。決定可能性の制約は、十分に表現力豊かな自然言語では、すべての可能な解釈に対する準拠性のチェックは一般に決定不可能であるという観察から得られます。 QED

系 3.1 (保守的なコンパイル)。 MARIA OS コンパイル パイプラインは、完全性よりも健全性を優先します。つまり、偽陰性 (違反の決定を通過させる) ではなく、偽陽性 (準拠している決定に違反の可能性があるとしてフラグを立てる) を生成するように設計されています。これは、フェールクローズド ゲートの設計原則と一致しています。

3.5 総合倫理スコア

Ethics Universe ゲート スコアは、重み付けされた合成を使用して、コンパイルされたすべての制約を 1 つのスコアに集約します。

$ g_E(d) = sum_{k=1}^{K} w_k * eta_k(d) / sum_{k=1}^{K} w_k (倫理ユニバースゲートスコア)

ここで、「w_k」は制約「eta_k」に割り当てられた重みです。重みは MARIA 座標系を介してユニバースごと、ゾーンごと、エージェントごとに設定できるため、さまざまな組織単位がさまざまな倫理的懸念に優先順位を付けることができます。フェイルクローズ条件は、「g_E(d) < tau_ethics」の場合にトリガーされます。

g_E(d) < tau_ethics の場合 $ FailClosed_Ethics(d) = TRUE (倫理フェールクローズ状態)

「FailClosed_Ethics(d)」が TRUE の場合、決定は現在のパイプライン段階で停止され、人間によるレビューのために最も近い責任ゲートにエスカレートされます。

4. 倫理的漂流検出モデル

4.1 漸進的な侵食の問題

個々の決定は倫理的制約に従う可能性がありますが、システムの全体的な動作は倫理的ベースラインから逸脱します。これは、機械学習における概念ドリフトの倫理的な類似物です。つまり、結果の分布は、個々の観察では捉えられない形で時間の経過とともに変化します。代理店は低所得の申請者に対して毎月 1% 多くのローンを承認することができ、毎月のスナップショットには差別違反がないことが示されています。しかし、24 か月後の累積シフトは、静的制約チェックでは決して検出できない統計的に有意なパターンを示しています。

倫理的漂流は、決定ごとの評価では目に見えないため、特に潜行的です。それには、システムの現在の倫理状態を過去のベースラインと比較し、逸脱の大きさと方向を測定する、時間的な分析が必要です。

4.2 倫理漂流指数 (EDI)

定義 4.1 (倫理ベースライン)。 倫理ベースライン B = (b_1, b_2, ..., b_K) は、システム キャリブレーション中に確立された、K の各倫理制約に対する目標コンプライアンス スコアのベクトルです。通常、すべての k について「b_k = 1.0」 (完全準拠) ですが、組織によっては、トレードオフを伴うことがわかっている制約に対して、より低い目標を設定する場合があります。

定義 4.2 (倫理的漂流指数)。 時間 t における倫理的漂流指数は、現在の倫理状態とベースラインの間の加重 L2 距離として定義されます。

$ EDI(t) = sqrt(sum_{k=1}^{K} w_k * (bar{eta}_k(t) - b_k)^2) (倫理的漂流指数)

ここで、bar{eta}_k(t) は制約 eta_k (定義 2.6) のウィンドウ化された平均コンプライアンス スコアであり、w_k は制約の重みです。

EDI には、いくつかの望ましい特性があります。

• 非負性: すべての t に対して EDI(t) >= 0 であり、システムがベースラインにある場合は同等です。
• 単調感度: 個々のコンプライアンス ギャップ |bar{eta}_k(t) - b_k| を増やすと、EDI が増加します。
• 次元のない比較可能性: EDI は、宇宙間および時間間を越えた比較を可能にするスカラーです。
• 分解可能性: 合計ドリフトに対する各制約の寄与は、delta_k(t) = w_k * (bar{eta}_k(t) - b_k)^2 として分離できます。

4.3 ドリフト率と加速度

EDI の 1 次導関数は、ドリフト レート、つまりシステムが倫理ベースラインからどれだけ早く (またはそれに向かって) 移動しているかを示します。

$ EDI'(t) = d(EDI)/dt = (1 / (2 EDI(t))) sum_{k=1}^{K} w_k 2 (bar{eta}_k(t) - b_k) * bar{eta}_k'(t) (ドリフト率)

正のドリフト率は倫理の低下を示します。負のドリフト率は倫理的改善を示します。ドリフト加速度「EDI''(t)」は、劣化が加速しているのか、減速しているのか、それとも定常状態なのかを示します。

提案 4.1 (ドリフト アラーム条件)。 次の条件のいずれかが当てはまる場合、システムは倫理的ドリフト アラームをトリガーします。

$ ALARM(t) = TRUE iff EDI(t) > tau_drift OR EDI'(t) > tau_rate OR (EDI(t) > tau_warn AND EDI'(t) > 0) (ドリフト警報状態)

ここで、「tau_drift」は絶対ドリフトしきい値、「tau_rate」はドリフト レートしきい値、「tau_warn」は警告レベルのドリフトしきい値です。

4.4 制約ごとのドリフト分解

アラームがトリガーされると、オペレーターはどの制約がドリフトしているかを知る必要があります。 EDI を制約ごとの寄与に分解し、重大度によってランク付けします。

function decomposeDrift(t: number): ConstraintDrift[] {
  const drifts: ConstraintDrift[] = []
  for (let k = 0; k < K; k++) {
    const gap = meanCompliance[k](t) - baseline[k]
    const contribution = weights[k] * gap * gap
    const rate = computeRate(meanCompliance[k], t)
    drifts.push({
      constraintId: k,
      gap,
      contribution,
      rate,
      percentOfTotal: contribution / (EDI(t) * EDI(t)),
    })
  }
  return drifts.sort((a, b) => b.contribution - a.contribution)
}

4.5 拘束重み調整によるドリフト修正

ドリフトが検出されると、システムは制約の重みを調整して制約のドリフトに対するペナルティを増やすことで対応できます。これを最適化問題として形式化します。

定義 4.3 (ドリフト補正問題)。 現在の重みベクトル w = (w_1, ..., w_K) と観測されたドリフト寄与 delta_k(t) を考慮して、最大重み変更バジェットを条件として予想される将来の EDI を最小化する調整された重みベクトル w' を見つけます。

$ minimum_{w'} E[EDI(t + Delta_t) | w'] の対象: sum_k |w'_k - w_k| <= B_w, w'_k >= すべての k について 0 (ドリフト補正の最適化)

ここで、「B_w」は、単一の補正サイクルで許可される最大合計重量調整です。これにより、急激な重量変更によりシステムが過剰に補正されるような振動動作が防止されます。

定理 4.1 (ドリフト補正の収束)。 意思決定生成プロセスが定常であり (つまり、基礎となる意思決定の分布が変化しない)、重み調整予算 'B_w' が 'B_w < 2 * sum_k w_k' を満たすという仮定の下で、反復ドリフト補正手順は 't -> として 'EDI(t) -> 0' に収束します。無限大。

証明スケッチ。 証明ではリアプノフ関数の引数を使用します。 V(t) = EDI(t)^2 を定義します。各補正ステップで、重み調整により V が少なくとも「delta_min > 0」だけ減少します (最もドリフトする制約のドリフト寄与に比例します)。 V は 0 未満で制限され、各ステップで少なくとも「delta_min」だけ減少するため、V は 0 に収束します。定常性の仮定により、ドリフト生成メカニズムが補正の応答速度を超えて加速しないことが保証されます。予算制約 B_w < 2 * sum_k w_k により、オーバーシュートが防止されます。 QED

4.6 MARIA OS 意思決定パイプラインとの統合

倫理的ドリフト検出モデルは、次の 2 つの時点で MARIA OS 意思決定パイプラインと統合されます。

• ゲート評価: 現在の EDI(t) は、倫理ユニバースのゲート評価に追加信号として含まれています。 EDI(t) > tau_warn の場合、倫理ユニバース ゲート スコアは比例的にペナルティを受け、決定が人間によるレビューを引き起こす可能性が高くなります。
• 定期監査: バックグラウンド プロセスは EDI(t) を定期的な間隔 (構成可能、デフォルト: 1000 件の決定ごとまたは 1 時間ごとのどちらか早い方) で計算し、結果を「decion_transitions」監査テーブルに書き込みます。これにより、規制報告に関する倫理的変動の不変の一時的な記録が作成されます。

5. 多宇宙の倫理的対立のマッピング

5.1 倫理的対立の構造的性質

マルチエージェントガバナンスシステムにおける倫理的対立はバグではなく、組織の現実の特徴です。効率の世界では、スループットを最大化するために迅速な融資承認が好まれる場合があります。公平性ユニバースでは、歴史的に十分なサービスを受けられなかったコミュニティからの申請者に対して、延長された審査が必要になる場合があります。コンプライアンス ユニバースでは、遅延を引き起こすドキュメントの作成が義務付けられる場合があります。これらは実装上のエラーではありません。それらは、組織設計自体に存在する真の価値観の緊張です。

課題は、こうした緊張を解消することではありません。そのためには、組織が単一の一貫した価値関数を持つ必要がありますが、これは複数の利害関係者グループにまたがって活動する企業にとって非現実的です。課題は、こうした緊張を可視化、測定可能、管理可能にすることです。

5.2 倫理の世界

座標 G1.U_E を持つ MARIA 座標系の第一級宇宙として倫理宇宙 U_E を導入します。ビジネス機能 (販売、業務、コンプライアンス) を表す他のユニバースとは異なり、倫理ユニバースは意思決定評価ドメインとして組織の倫理的取り組みを表します。

倫理宇宙には、倫理原則のカテゴリに対応する惑星が含まれています。

各惑星には特定の倫理サブドメインのゾーンが含まれており、各ゾーン内のエージェントは、編集された倫理的制約に照らして決定を評価します (セクション 3)。

5.3 倫理的対立スコア

定義 5.1 (ユニバース間の倫理的競合スコア)。 ユニバース U_i および U_j の場合、決定 d の倫理的競合スコアは次のとおりです。

$ C_E(U_i, U_j, d) = |g_i(d) - g_j(d)| * max(リスク_i(d), リスク_j(d)) (倫理的葛藤スコア)

このスコアは、2 つのユニバースが決定に大きく同意せず (スコア差が大きい)、少なくとも 1 つがその決定を高リスク (最大リスクが高い) とみなしている場合に高くなります。最大リスクを乗算することで、低リスクの決定に関する意見の相違が適切に強調されなくなります。

定義 5.2 (集約対立行列)。 意思決定ウィンドウ H_{t,W} にわたる集約倫理対立行列は次のとおりです。

$ C_E(U_i, U_j) = (1/W) sum_{d in H_{t,W}} C_E(U_i, U_j, d) (集約競合マトリックス)

これは対称の非負の行列で、エントリ (i, j) は宇宙 U_i と U_j の間の平均的な倫理的対立の強度を表します。

5.4 倫理的対立のヒートマップの生成

倫理的対立ヒートマップは、集約された対立マトリックスを視覚化したもので、オペレーターはどのユニバースのペアが最も強い倫理的緊張を示しているかを特定できます。ヒートマップの生成手順は次のとおりです。

function generateEthicalConflictHeatmap(
  universes: Universe[],
  window: DecisionWindow,
): ConflictHeatmap {
  const N = universes.length
  const matrix: number[][] = Array(N).fill(null).map(() => Array(N).fill(0))

  for (const d of window.decisions) {
    for (let i = 0; i < N; i++) {
      for (let j = i + 1; j < N; j++) {
        const conflict = computeConflictScore(
          universes[i].evaluate(d),
          universes[j].evaluate(d),
        )
        matrix[i][j] += conflict / window.size
        matrix[j][i] = matrix[i][j]  // symmetric
      }
    }
  }

  return {
    matrix,
    universes: universes.map(u => u.coordinate),
    hotspots: identifyHotspots(matrix, threshold),
    timestamp: Date.now(),
  }
}

5.5 競合の分解と根本原因の分析

ホットスポット (「C_E(U_i, U_j) > tau_conflict」を持つユニバースのペア) が特定されると、システムはその矛盾を分解して根本原因、つまりどの特定の倫理的制約が不一致を引き起こしているのかを特定します。

定義 5.3 (制約レベルの競合分解)。 競合スコア C_E(U_i, U_j) を持つユニバース ペア (U_i, U_j) の場合、制約レベルの分解は次のようになります。

$ C_E^k(U_i, U_j) = (1/W) sum_{d in H_{t,W}} |eta_k(d | U_i) - eta_k(d | U_j)| * max(リスク_i(d), リスク_j(d)) (制約レベルの競合)

ここで、eta_k(d | U_i) は、ユニバース U_i によってコンテキスト化された制約 eta_k の評価です。この分解により、たとえば、効率と公平性の間の競合は主に属性独立性制約 (eta_indep) によって引き起こされ、コンプライアンスとスピードの間の競合は証拠必須制約 (eta_evid) によって引き起こされることが明らかになります。

5.6 紛争解決戦略

システムは、ユニバース ペアごとに選択可能な 4 つの競合解決戦略をサポートしています。

• 優先順位のオーバーライド: One Universe の倫理評価が優先されます。次のように形式化されます: Resolve(U_i, U_j) = g_i(d) if priority(U_i) > priority(U_j)。
• 重み付けされた妥協: スコアは構成可能な重みとブレンドされます。次のように形式化されます: Resolve(U_i, U_j) = alpha * g_i(d) + (1 - alpha) * g_j(d)。
• 保守連合: 最も制限的な評価が優先されます。 Resolve(U_i, U_j) = min(g_i(d), g_j(d)) として形式化されます。これは倫理ユニバースのデフォルトです。
• 人間による仲裁: 紛争は人間による解決を求める責任ゲートまでエスカレートします。 C_E(U_i, U_j, d) > tau_arbitration の場合にトリガーされます。

定理 5.1 (保守連合はフェイルクローズを維持)。 保守連合解決戦略では、ユニバース U_i または U_j のいずれかが決定 d に対してフェイルクローズ条件をトリガーする場合、解決された評価もフェイルクローズをトリガーします。

証明 定義により、g(d) < tau の場合、FailClosed(d) = TRUE となります。保守連合では、解決されるスコアは min(g_i(d), g_j(d)) です。 g_i(d) < tau の場合、min(g_i(d), g_j(d)) <= g_i(d) < tau となるため、フェールクローズ トリガーになります。 g_j(d) < tau の場合も同じ引数が適用されます。したがって、保守連合はフェイルクローズ状態を決して弱めることはありません。 QED

6. 人間による監視の校正モデル

6.1 人間の一貫性の問題

フェールクローズド ゲートと責任ゲートは、人間のレビュー担当者が信頼できる倫理的判断を提供することを前提としています。しかし、人間の判断は完全に一貫しているわけでも、完全に調整されているわけでもありません。査読者が異なれば、同じ決定に対して異なる結論に達する可能性があります。同じ査読者が異なる時点で異なる結論に達する場合があります。疲労、認知バイアス、時間的プレッシャー、専門分野の専門知識はすべて、査読者の信頼性の前提を損なう形で人間の倫理的判断に影響を与えます。

ガバナンス システムの安全性の保証が人間によるレビューの品質に依存している場合、アルゴリズムのパフォーマンス指標に適用されるのと同じ厳密さで、人間によるレビューの品質を測定、監視、改善する必要があります。

6.2 人間の倫理的一貫性スコア (HECS)

私たちは HECS を、人間の倫理的判断の信頼性を 4 つの側面にわたって測定する複合指標として定義します。

定義 6.1 (査読者内の一貫性)。 査読者 r の場合、査読者内の一貫性は次のとおりです。

$ IRC(r) = 1 - (1 / (|P| (|P| - 1) / 2)) sum_{(d_i, d_j) in P} |Y_r(d_i) - Y_r(d_j)| (査読者内の一貫性)

ここで、P は決定ペア (d_i, d_j) のセットで、sim(d_i, d_j) > tau_sim (類​​似の決定)、Y_r(d) は決定 d に対するレビュー担当者 r の判断 ([0, 1] に正規化) です。 IRC は、査読者が同様の決定に対して一貫した判断を下しているかどうかを測定します。

定義 6.2 (査読者間合意)。 同じ決定 d を査読した一連の査読者 R = {r_1, ..., r_n} の場合、査読者間合意は次のようになります。

$ IRA(d) = 1 - (2 / (n (n - 1))) sum_{i < j} |Y_{r_i}(d) - Y_{r_j}(d)| （査読者間の合意）

IRA は、異なる査読者が同じ決定に対して同様の結論に達するかどうかを測定します。

定義 6.3 (時間的安定性)。 時間枠 [t - Delta, t] にわたるレビュー担当者 r の場合、時間的安定性は次のとおりです。

$ TS(r, t) = 1 - Var[Y_r(d) | d in H_{t,Delta}, sim(d, d_ref) > tau_sim] / Var_max (時間的安定性)

ここで、「d_ref」は参照決定、「Var_max」は正規化定数です。 TS は、同様の決定に対する査読者の判断が時間の経過とともに安定しているか、または変動を示しているかを測定します。

定義 6.4 (校正精度)。 レビュー担当者 r の場合、校正精度は、レビュー担当者の判断に対する信頼と、その判断の実際の一貫性との整合性を測定します。

$ CA(r) = 1 - (1/M) sum_{m=1}^{M} |conf_r(d_m) - acc_r(d_m)| (校正精度)

ここで、conf_r(d_m) は査読者 r が述べた判断 d_m に対する信頼度であり、acc_r(d_m) は実際の精度 (他の査読者との合意またはその後の結果との合意によって測定される) です。

定義 6.5 (人間の倫理的一貫性スコア)。 時間 t における査読者 r の HECS は次のとおりです。

$ HECS(r, t) = alpha_1 IRC(r) + alpha_2 IRA_bar(r, t) + alpha_3 TS(r, t) + alpha_4 CA(r) (人間の倫理的一貫性スコア)

ここで、alpha_1 + alpha_2 + alpha_3 + alpha_4 = 1 および IRA_bar(r, t) は、ウィンドウ [t - Delta, t] 内で r によってレビューされた決定に対するレビュー担当者間の平均合意です。

6.3 校正フィードバックループ

HECS は単なる測定ではなく、時間の経過とともに人間の判断の質を向上させる校正フィードバック ループを駆動します。

ステップ 1: 測定。 定期的に各レビュー担当者の HECS(r, t) を計算します。

ステップ 2: 診断。 各レビュー担当者の最も弱い側面を特定します。 「IRC(r)」が低い場合、レビューアは内部的に一貫性がありません。 IRA_bar(r, t) が低い場合、レビュー担当者は同僚の意見に同意しません。 TS(r, t) が低い場合、レビューワーの判断が揺れています。 「CA(r)」が低い場合、レビュー担当者は適切に調整されていません。

ステップ 3: 介入。 診断に基づいた対象を絞った介入:

• 低 IRC: 似たようなケースに関する自身の過去の決定を査読者に提示し、矛盾を強調します。
• 低 IRA: 同じ決定に対して匿名化されたピアの判断を提示し、比較を可能にします。
• 低 TS: 時間の経過に伴う査読者の判断傾向を示し、ドリフトを示します。
• 低い CA: 信頼性と精度の調整に関するフィードバックを提供し、レビュー担当者が自身の信頼性をより適切に推定できるようにトレーニングします。

ステップ 4: 再割り当て。 介入にもかかわらず HECS(r, t) が「tau_HECS」を下回った場合、レビュー担当者のゲート割り当てが調整されます。つまり、HECS が回復するまで、影響の大きいゲートからゲートが削除され、リスクの低いレビューに割り当てられます。

6.4 集合組織 HECS

組織の HECS は、各レビュー担当者が実行したレビューの数で重み付けされた、個々のレビュー担当者の HECS スコアの加重平均です。

$ HECS_org(t) = sum_{r in R} n_r(t) * HECS(r, t) / sum_{r in R} n_r(t) (組織的HECS)

ここで、「n_r(t)」は、測定ウィンドウ内でレビュー担当者 r によって実行されたレビューの数です。この重み付けにより、アクティブなレビュー担当者が、頻度の少ないレビュー担当者よりも組織のスコアに大きく貢献することが保証されます。

命題 6.1 (ゲート信頼性に関する HECS 下限)。 HECS_org(t) >= tau_org であり、ゲートが確率 P_human で人間によるレビューをトリガーする場合、正しい倫理評価の確率は以下の制限によって制限されます。

$ P(正しい | ゲート) >= P_human tau_org + (1 - P_human) g_E_accuracy (ゲート信頼性限界)

ここで、「g_E_accuracy」は自動化された Ethics Universe ゲート評価の精度です。この限界は、高い HECS を維持することでゲートの信頼性が直接的に向上することを示しています。

7. 倫理サンドボックスシミュレーション

7.1 配備前評価の問題

倫理ポリシーは運用環境では評価できません。新しい公平性制約を導入し、それが特定の人口統計グループの誤検知率を 40% 増加させることを発見した組織は、すでに損害を引き起こしています。 A/B テストを実行してロールバックできるパフォーマンス チューニングとは異なり、倫理ポリシーの導入は影響を受けた個人に取り返しのつかない影響を及ぼします。

倫理サンドボックスは、展開前に倫理ポリシーを合成集団に対して評価できるシミュレーション環境を提供します。このサンドボックスは、制約構成の下流の社会的影響をモデル化し、人口統計グループ全体の分布の公平性、不平等、エラー率を測定します。

7.2 サンドボックスアーキテクチャ

サンドボックスは 4 つのコンポーネントで構成されます。

コンポーネント 1: 合成母集団ジェネレーター。 現実的な人口統計分布、意思決定履歴、結果の軌跡を含む仮想母集団を作成します。母集団は、人口統計分布 P(A_P)、決定頻度分布 P(rate | A_P)、および結果感度関数 Y(d | A_P,policy) によってパラメーター化されます。

コンポーネント 2: ポリシー エンジン。 合成母集団に対して候補となる倫理的制約構成を評価します。シミュレートされた個人ごとに、エンジンは一連の決定を生成し、候補の制約に対してそれらを評価し、結果を記録します。

コンポーネント 3: Impact Analyzer。 合成母集団全体にわたる分布影響指標を計算し、政策が人口統計グループにどのように異なる影響を与えるかを測定します。

コンポーネント 4: 反事実比較。 候補ポリシーを現在のポリシー (ベースライン) および代替ポリシー (バリアント) と比較し、相対的な影響指標を計算します。

7.3 公平性メトリクススイート

サンドボックスは、包括的な公平性指標スイートに対してポリシーを評価します。

指標 1: 人口均等率。 陽性転帰率が人口統計グループ全体で等しいかどうかを測定します。

$ DPR(A_P = a) = P(Y > 0 | A_P = a) / P(Y > 0 | A_P = a_ref) (人口均等率)

ここで、「a_ref」は参照グループです。 DPR 1.0 は、人口統計上の完全な同等性を示します。

指標 2: 均等化オッズ比。 真陽性率と偽陽性率がグループ全体で等しいかどうかを測定します。

$ EOR_TPR(a) = TPR(A_P = a) / TPR(A_P = a_ref) (均等化されたオッズ - TPR)

$ EOR_FPR(a) = FPR(A_P = a) / FPR(A_P = a_ref) (均等化されたオッズ - FPR)

指標 3: 校正スコア。 予測リスク スコアがグループ間で均等に校正されているかどうかを測定します。

$ CalibScore(a) = 1 - |E[Y |スコア = s、A_P = a] - E[Y |スコア = s、A_P = a_ref]| (校正スコア)

指標 4: 結果のジニ係数。 結果の分布における不平等を測定します。

$ ジニ = (2 sum_{i=1}^{n} i Y_{(i)}) / (n * sum_{i=1}^{n} Y_{(i)}) - (n + 1) / n (ジニ係数)

ここで、「Y_{(i)}」は昇順にソートされた結果です。

7.4 シミュレーションプロトコル

シミュレーションは厳密な実験プロトコルに従います。

function runEthicsSandbox(
  candidatePolicy: EthicalConstraintConfig,
  baselinePolicy: EthicalConstraintConfig,
  populationConfig: PopulationConfig,
  iterations: number,
): SandboxResult {
  const results: IterationResult[] = []

  for (let i = 0; i < iterations; i++) {
    // Generate synthetic population
    const population = generatePopulation(populationConfig, seed: i)

    // Run candidate policy
    const candidateOutcomes = simulatePolicy(candidatePolicy, population)

    // Run baseline policy
    const baselineOutcomes = simulatePolicy(baselinePolicy, population)

    // Compute fairness metrics
    const candidateMetrics = computeFairnessMetrics(candidateOutcomes, population)
    const baselineMetrics = computeFairnessMetrics(baselineOutcomes, population)

    // Compute relative impact
    const relativeImpact = computeRelativeImpact(candidateMetrics, baselineMetrics)

    results.push({ candidateMetrics, baselineMetrics, relativeImpact })
  }

  // Aggregate across iterations with confidence intervals
  return aggregateResults(results, confidenceLevel: 0.95)
}

7.5 サンドボックスの安全性の保証

定理 7.1 (サンドボックス忠実度の限界)。 M_sandbox と M_prod が、それぞれサンドボックスと運用環境で計算された公平性メトリックを表すものとします。合成人口分布 P_synth(A_P) が D_TV(P_synth, P_prod) < epsilon (総変動距離) を満たし、ポリシー エンジンが決定的である場合、次のようになります。

$ |E[M_サンドボックス] - E[M_prod]| <= L_M * イプシロン (サンドボックス忠実度制限)

ここで、「L_M」は、人口分布に関する公平性メトリック M のリプシッツ定数です。

証明 全変動距離の結合補題により、P(X_synth != X_prod) <= epsilon となるような結合 (X_synth, X_prod) が存在します。ポリシー エンジンは決定論的であるため、結果は入力が異なる場合にのみ異なります。 M のリプシッツ条件は、入力差の確率の「L_M」倍によってメトリック差を制限します。したがって、 |E[M_sandbox] - E[M_prod]| <= L_M * P(X_synth != X_prod) <= L_M * イプシロン。 QED

この定理は定量的な保証を提供します。つまり、合成母集団が実際の母集団 (イプシロンが小さい) とほぼ一致する場合、サンドボックスの結果は本番の動作とほぼ一致します。リプシッツ定数「L_M」は、分布の摂動に対する各公平性メトリックの感度を特徴付けます。

7.6 ポリシー推奨エンジン

サンドボックスの結果に基づいて、システムは多目的最適化フレームワークを使用してポリシーの推奨事項を生成します。

$maximize_{policy} sum_{m=1}^{F} lambda_m * M_m(policy) の条件: M_m(policy) >= tau_m for all m, LatencyCost(policy) <= B_latency (ポリシーの最適化)

ここで、「M_m」は F 公平性メトリクス、「lambda_m」はメトリクスの重み、「tau_m」は許容可能な最小しきい値、「B_latency」はレイテンシ バジェットです。最適化により、オペレーターが優先順位の重み付けに基づいて選択できるポリシー構成のパレートフロンティアが生成されます。

8. 統合: エージェント倫理研究所

8.1 コンポーネントから制度へ

セクション 3 ～ 7 で説明した 5 つのフレームワークは、個別に役立ちますが、集合的に変革をもたらします。これらは共に、倫理原則を制約に変換し、制約遵守を監視し、矛盾を検出し、人間の監視を調整し、展開前にポリシー変更をシミュレートする閉ループの倫理ガバナンス システムを形成します。この閉ループは単なるソフトウェア システムではありません。これは研究機関であり、自律エージェントの倫理的行動を継続的に調査、測定、改善する構造化された組織です。

私たちはこの機関を Agentic Ethics Lab と呼んでいます。これは、倫理ガバナンスをコンプライアンスのチェックボックスではなく科学分野として扱う MARIA OS Research Universe (座標 G1.U_R) 内に組み込まれた企業研究機関です。

8.2 4 つの部門

Agentic Ethics Lab は 4 つの部門で構成されており、それぞれが異なる研究任務、エージェント チーム、成果物を担当しています。

部門 1: 倫理体系化部門 (G1.U_R.P1)

倫理形式化部門は、制約としての倫理 DSL の維持と拡張、新しい制約タイプの開発、コンパイル パイプラインの適用範囲と精度の向上を担当します。その研究任務は次のとおりです: 実行可能な制約にまとめられる組織の倫理原則の割合を増やすにはどうすればよいですか?

主要な研究プログラム: - 業界固有の倫理規範（医療のインフォームド・コンセント、財務受託者責任、教育開発の適切性）をカバーするために標準原則パターン ライブラリを拡張します。 - 原始的な制約を複雑な倫理規則に結合する構成制約演算子の開発 - コンパイル品質のパレートフロンティアを特定するために、制約の健全性と完全性の関係 (定理 3.1) を形式化する - 制約の正確性のための自動テスト フレームワークの作成: 既知の違反決定が与えられた場合、コンパイルされた制約はそれに正しくフラグを立てていますか?

エージェントチームの構成: - 2 つの倫理公式化エージェント (G1.U_R.P1.Z1.A1-A2): 新しい DSL 制約タイプの開発とテスト - 1 人の原則分析エージェント (G1.U_R.P1.Z1.A3): 受信した倫理原則を分析し、それらを標準パターンにマッピングします - 1 人倫理アドバイザー (G1.U_R.P1.Z2.A1): 原則の意図に忠実であるかどうか、制約の編集をレビューします。 - 1 ドメイン エキスパート パネル (G1.U_R.P1.Z2.A2): スロット バインディングに関する業界固有の倫理的コンテキストを提供します。

部門 2: 倫理学習部門 (G1.U_R.P2)

倫理学習部門は、倫理的漂流検出モデルと、倫理的漂流を検出、診断、修正するための新しい方法の開発を担当します。その研究任務は次のとおりです: 害を及ぼす前に倫理の低下をどのように検出できるか?

主要な研究プログラム: - 倫理的変動が統計的に有意になる前に予測する早期警告指標の開発 - 倫理的ドリフトの因果メカニズムの調査: 倫理的ドリフトは、入力分布の変更、モデルの更新、制約しきい値のシフト、またはレビュー担当者の疲労によって引き起こされるのか? - 倫理時系列に特化した異常検出モデルの構築 (EDI(t) は特定の統計的特性を持つ時系列です) - さまざまな倫理領域に最適なウィンドウ サイズ W を設計する: 変化の速い領域 (貿易) には短いウィンドウが必要で、変化の遅い領域 (ヘルスケア) には長いウィンドウが必要です。

エージェントチームの構成: - 2 つのドリフト検出エージェント (G1.U_R.P2.Z1.A1-A2): すべてのユニバースにわたる EDI を監視し、アラームをトリガーします - 1 つの根本原因分析エージェント (G1.U_R.P2.Z1.A3): ドリフトを制約ごとの寄与に分解し、因果メカニズムを仮説化します。 - 1 つの補正エージェント (G1.U_R.P2.Z2.A1): 体重調整戦略を提案および評価します。 - 1 人の人間倫理監査人 (G1.U_R.P2.Z2.A2): 展開前にドリフト アラームをレビューし、修正案を検証します

部門 3: Agentic Company デザイン部門 (G1.U_R.P3)

Agentic Company の設計部門は、マルチユニバースの倫理紛争マッピングと倫理サンドボックス シミュレーションを担当します。その研究任務は次のとおりです: 価値観の多様性を維持しながら構造的な倫理的対立を最小限に抑えるには、組織構造をどのように設計する必要がありますか?

この部門は倫理と組織設計の橋渡しをします。その中心的な洞察は、マルチエージェント システムにおける倫理的対立は、多くの場合、組織設計の選択を反映しているということです。つまり、効率の世界と公平の世界の間の対立は、通常、スループットを最大化するよう奨励されている部門と、公平な扱いを担当する部門との間の実際の組織的緊張を反映しています。計算上の競合を解決するには、組織構造を理解し、場合によっては再設計する必要があります。

主要な研究プログラム: - 組織構造から倫理的対立のホットスポットを予測する組織トポロジー指標の開発（レポートライン、インセンティブの不整合、情報の非対称性） - 導入前に組織再設計を評価するシミュレーションモデルの構築 - ユニバースの数、競合密度、ガバナンスのオーバーヘッドの関係を研究しています。倫理的評価の次元には最適な数がありますか? - 過去の結果から最適な解決ポリシーを学習する、適応的な紛争解決戦略を設計する

エージェントチームの構成: - 2 つの紛争マッピング エージェント (G1.U_R.P3.Z1.A1-A2): 倫理的紛争ヒートマップを生成および維持します - 1 サンドボックス シミュレーション エージェント (G1.U_R.P3.Z1.A3): ポリシー シミュレーションを実行し、影響レポートを生成します。 - 1 組織設計エージェント (G1.U_R.P3.Z2.A1): 競合分析に基づいて構造的介入を提案します。 - 1 人の人間戦略アドバイザー (G1.U_R.P3.Z2.A2): 組織再設計提案をレビューし、戦略的影響を評価します。

部門 4: ガバナンスおよび導入部門 (G1.U_R.P4)

ガバナンスおよび採用部門は、人間による監視の調整モデルと、エージェント倫理研究所の成果が運用ユニバースに確実に採用されるようにする責任を負います。その研究任務は次のとおりです: 組織全体で倫理的ガバナンスの改善が実際に実施され、維持されることをどのように保証できるか?

この部門は、倫理ガバナンスのラストマイルの問題、つまり正しい倫理的制約を持つことと、その制約が実際に組織の行動に影響を与えることとの間のギャップに対処します。その取り組みは実装科学、変更管理、行動経済学に基づいています。

主要な研究プログラム: - さまざまなレビュー担当者の原型 (ドメイン専門家、ゼネラルマネージャー、コンプライアンス責任者) に最適化された HECS 改善プロトコルの開発 - 倫理的制約の更新の導入ダイナミクスの研究: どのような組織的要因が導入の早さと遅さを予測しますか? - 新たな倫理的制約を吸収する組織の能力を測定する「ガバナンスの準備状況」評価を構築する - 倫理コンプライアンスを運用担当者や人間のレビュー担当者にとって最も抵抗の少ない方法にする、インセンティブと互換性のあるメカニズムを設計する

エージェントチームの構成: - 1 つのキャリブレーション エージェント (G1.U_R.P4.Z1.A1): すべてのレビュー担当者全体で HECS を計算および監視します。 - 1 採用追跡エージェント (G1.U_R.P4.Z1.A2): 新しい倫理的制約の展開を監視し、導入率を測定します。 - 1 トレーニング エージェント (G1.U_R.P4.Z2.A1): HECS が低いレビュー担当者向けの校正フィードバック資料を生成します。 - 1 人の変更マネージャー (G1.U_R.P4.Z2.A2): コンプライアンス率が低い組織単位に対する導入介入を設計および実行します。

8.3 閉ループ統合

4 つの部門は閉ループとして動作します。

$ 形式化 -> 導入 -> モニタリング -> ドリフト検出 -> 競合分析 -> サンドボックス シミュレーション -> キャリブレーション -> 再形式化 (倫理研究所クローズドループ)

各ステージでは、次のステージにフィードされるアーティファクトが生成されます。

• 形式化 により、コンパイルされた制約が生成され、倫理ユニバースに展開されます。
• モニタリング は EDI を計算し、ドリフトを検出して調査を開始します。
• ドリフト検出 は、どの制約がドリフトしているかを特定し、その原因を推測します。
• 紛争分析は、ドリフトが宇宙間の構造的緊張によって引き起こされているかどうかを明らかにします。
• サンドボックス シミュレーション は、合成環境で提案されたポリシーの変更をテストします。
• キャリブレーションにより、人間の審査員が一貫した判断の品質を維持できるようになります。
• 再形式化 は、学んだ教訓に基づいて制約定義を更新します。

ループ期間 (問題の検出から検証済みの修正を展開するまでの時間) は、Agentic Ethics Lab の重要なパフォーマンス指標です。目標ループ期間: 日常的な制約更新の場合は 72 時間、重大なドリフト アラームの場合は 24 時間、緊急の倫理的エスカレーションの場合は 4 時間。

8.4 倫理研究所自体のガバナンス

Agentic Ethics Lab は MARIA OS ガバナンス フレームワーク内で運営されています。どの制約をコンパイルするか、どのドリフト アラームをエスカレートするか、どのサンドボックスの結果に基づいて処理するかという独自の決定は、同じフェールクローズ ゲートを持つ同じ意思決定パイプラインを通過します。この自己参照的なガバナンス構造により、倫理研究所が適切なレビューなしに一方的に倫理的制約を変更することができなくなります。

具体的には、倫理研究所は 3 レベルのゲート ポリシーを使用します。

• EL-G0 (自動承認): 定期的な測定 (EDI 計算、HECS 更新、ヒートマップ再生成) が自動的に実行されます。
• EL-G1 (ピアレビュー): 制約重量の調整、ドリフト修正提案、および校正介入には、異なる部門の少なくとも 1 人のエージェントによるレビューが必要です。
• EL-G2 (人間によるレビュー): 新しい制約タイプ、制約の削除、組織再設計提案、および緊急オーバーライドには、人道倫理顧問と少なくとも 1 人の人事変更マネージャーによるレビューが必要です。

9. 実験計画

9.1 研究の質問

私たちは、3 つの企業ドメインにわたる 5 つのフレームワークを評価するための実験を設計します。中心的な研究課題は次のとおりです。

• RQ1: 制約の形式化は、宣言に基づく倫理と比較して倫理違反を軽減しますか?
• RQ2: ドリフト検出は人間の監査人の前に倫理的低下を特定しますか?
• RQ3: 競合マッピングは、運用上の失敗として現れる前に倫理的緊張を表面化しますか?
• RQ4: HECS 校正は人間の倫理的判断の一貫性を向上させますか?
• RQ5: サンドボックス シミュレーションは、運用レベルの公平性への影響を許容誤差範囲内で予測しますか?

9.2 実験ドメイン

ドメイン 1: 金融サービス (融資決定)。 信用スコアリング、リスク評価、価格設定、および承認のためにエージェントを使用してローン申請を処理するマルチエージェント システム。倫理原則: 保護された属性の非差別、比例価格設定 (リスクに比例した金利)、拒否理由の透明性、承認チェーンに対する説明責任。

ドメイン 2: ヘルスケア (治療の優先順位付け)。 トリアージ、スケジュール設定、リソース割り当て、および結果の追跡のために、エージェントを使用して患者の治療キューを管理するマルチエージェント システム。倫理原則: 保険ステータスに関係なく公平なアクセス、主な優先基準としての臨床上の必要性、治療選択における患者の自主性、資源不足における注意義務。

ドメイン 3: 公共部門 (給付金の配分)。 資格評価、給付金の計算、不正行為の検出、および不服申し立ての処理のためにエージェントを使用して社会給付申請を処理するマルチエージェント システム。倫理原則: 平等な事件の平等な扱い、非懲罰的な不正行為の検出 (推定無罪)、違反に対する相応の結果、控訴手続きの利用可能性。

9.3 ベースライン条件

各ドメインは次の 4 つの条件に基づいて評価されます。

9.4 メトリクス

主要な指標: - 倫理違反率 (1000 件の決定ごとの違反数) - 12 か月にわたるシミュレーション運用における EDI の軌跡 - 競合検出のリードタイム (手動監査検出までの日数) - キャリブレーション前後の HECS フィードバック - サンドボックス予測精度 (各公平性メトリックの |M_sandbox - M_prod|)

二次指標: - 意思決定のスループット (1 時間あたりの意思決定) - ゲート評価レイテンシ (ゲート評価あたりのミリ秒) - 人間によるレビュー負荷 (レビュー担当者ごとの 1 日あたりのレビュー) - 制約コンパイルのカバレッジ (正常にコンパイルされた原則の割合) - ドリフトアラームの誤検知率

9.5 統計分析計画

条件間のすべての比較では、一対のテストが使用されます (各ドメインは独自のコントロールとして機能します)。連続的なメトリクスの場合、多重比較のためにボンフェローニ補正を備えた両側対応のある t 検定を使用します。レート指標 (違反率) には、マクネマーの検定を使用します。効果量は Cohen の d として報告されます。統計的有意性のしきい値: alpha = 0.01 (倫理的ガバナンスにおける誤った発見の実際的な影響を考慮して、従来の 0.05 よりも厳密)。

サンプル サイズは検出力分析によって決定されます。アルファ = 0.01、検出力 = 0.90 の中程度の効果サイズ (d = 0.5) の場合、ドメインごとの条件ごとに n = 88 回のシミュレーションを実行する必要があります。安全マージンとして n = 100 を実行します。

10. 期待される結果

10.1 RQ1: 制約の形式化と宣言のみ

制約形式化アプローチ (C2 および C3) は、申告のみのベースライン (C1) と比較して倫理違反率の 60 ～ 80% の削減を達成すると予想されます。ドメイン全体で期待される結果:

C2 から C3 (静的制約から完全なアーキテクチャ) への改善は、さらに 30 ～ 45% の削減になると予想されており、静的制約の適用を超えたドリフト検出、競合マッピング、人間による調整の価値が実証されています。

10.2 RQ2: ドリフト検出リードタイム

私たちは、倫理的漂流検出モデルが人間の監査人より 14 ～ 28 日前に倫理的低下を特定できることを期待しています。リードタイムはドリフト率によって異なります。急速なドリフト（突然のモデル更新によって引き起こされる）は 1 ～ 3 日以内に検出されます。遅いドリフト (段階的な入力分布のシフトによって引き起こされる) は 14 ～ 28 日以内に検出されます。

ドリフト検出システムの誤警報率は、推奨警報しきい値 (「tau_drift = 0.15」、「tau_rate = 0.02」、「tau_warn = 0.08」) を使用すると 5% 未満になると予想されます。

10.3 RQ3: 紛争地域の適用範囲

私たちは、多宇宙倫理紛争マッピングにより、既知の宇宙間の倫理的緊張の 95 ～ 99% が、手動監査によって検出される前に表面化すると期待しています。主な利点は構造的なものです。紛争ヒートマップは、組織設計に存在する緊張を明らかにしますが、運用チームは自分たちのユニバースの目的に集中しているため、この緊張を認識できないことがよくあります。

ドメインごとに予想される競合ホットスポット: - 金融サービス: 効率 vs. 公平性 (融資処理速度 vs. 公平な扱い)、コンプライアンス vs. スピード (書類要件 vs. 承認の待ち時間) - ヘルスケア: リソース効率 vs. 公平なアクセス (コストの最適化 vs. 国民皆保険)、臨床の自律性 vs. プロトコルの遵守 (医師の判断 vs. 標準化されたケアパス) - 公共部門: 不正防止 vs. 無罪の推定 (誤検知率 vs. 不正検出の感度)、効率 vs. アクセシビリティ (処理速度 vs. 多様な申請者への対応)

10.4 RQ4: HECS キャリブレーションの影響

校正フィードバック ループにより、平均 HECS が 8 週間以内に 0.72 (校正前ベースライン) から 0.88 (校正後) に改善され、22% の改善が見込まれます。レビューアーのドリフトは不整合の最も対処可能な形式であるため、改善は時間的安定性の次元 (TS) で最も大きいと予想されます。レビューアーに独自の傾向データを示すことは強力な修正効果があるためです。

10.5 RQ5: サンドボックス予測精度

サンドボックスの予測精度は |M_sandbox - M_prod| を満たすことが期待されます。合成母集団が D_TV(P_synth, P_prod) < 0.03 を満たす場合、すべての公平性メトリックについて < 0.05。これは定理 7.1 の理論的限界と一致しており、実際の有用性を示しています。サンドボックス予測は政策決定を知らせるのに十分な精度です。

10.6 複合的な影響評価

3 つのドメインすべてにわたる完全な倫理アーキテクチャ (C3) と宣言のみ (C1) の全体的な影響は次のとおりです。

• 倫理違反を平均 73% 削減
• 監査トレーサビリティの 4.2 倍の向上 (証拠バンドルの完全性によって測定)
• 手動監査までのドリフト検出までの平均リードタイムは 18 日
• 98.2%の紛争表面カバー率
• HECS は 10,000 件以上の意思決定にわたって 0.85 以上を維持
• すべての公平性メトリクスで 0.05 以内のサンドボックス予測精度
• ゲート評価のレイテンシが 12% 増加 (倫理評価の許容可能なオーバーヘッド)
• 意思決定のスループットが 8% 削減 (違反是正コストの削減により相殺)

11. ディスカッション

11.1 アーキテクチャに関する議論

この論文の中心的な貢献は、AI システムにおける倫理は基本的にアーキテクチャの問題であるという主張です。これは、倫理はエンジニアリングによって「解決」できるという還元主義的な主張ではありません。公平性、説明責任、透明性を構成するものについての哲学的問題は依然として未解決かつ重要です。むしろ、組織がどのような倫理原則を採用しても、それをコンピュータ システムに実装するには、制約仕様言語、コンプライアンス監視、ドリフト検出、競合管理、人間による調整、シミュレーション ベースの検証などのアーキテクチャ サポートが必要である、という主張です。

この議論には実際的な帰結があります。倫理を文化の問題として扱う組織 (倫理トレーニングや価値観の表明がエージェントの行動に影響を与えることを期待している) は、倫理的取り組みを強制できるようにするためのアーキテクチャ インフラストラクチャへの投資が体系的に不足しています。倫理実装のギャップは意図の失敗ではありません。それはアーキテクチャの失敗です。

11.2 規制遵守への影響

AI 倫理に関する規制状況は急速に進化しています。 EU AI 法は、高リスク AI システムに対するリスク評価、透明性要件、人間による監視を義務付けています。 NIST AI リスク管理フレームワークでは、組織が AI リスクを特定、評価、管理することが求められています。 ISO/IEC 42001 は、責任ある AI のための管理システム標準を提供します。

これらのフレームワークはすべて、組織が倫理遵守を単に主張するだけでなく実証できることを前提としています。このホワイトペーパーで紹介する 5 つのフレームワークは、そのようなデモンストレーションのための測定インフラストラクチャを提供します。

• EU AI 法の準拠: Ethics-as-Constraint DSL は、必要なリスク評価のための文書化された制約仕様を提供します。 EDI は一時的なコンプライアンスの証拠を提供します。倫理紛争ヒートマップは、クロスドメインのリスクを明らかにします。
• NIST AI RMF 準拠: 倫理サンドボックスは、フレームワークに必要な「テスト、評価、検証、検証」機能を提供します。 HECS は、「人間と AI のチーミング」パフォーマンス指標を提供します。
• ISO/IEC 42001 準拠: Agentic Ethics Lab の 4 部門構造は、規格で要求される組織ガバナンスを提供します。閉ループ アーキテクチャにより、継続的な改善プロセスが提供されます。

11.3 自己参照型ガバナンスの課題

Agentic Ethics Lab は、研究および改善するのと同じフェイルクローズド ゲート インフラストラクチャを通じて、独自の倫理ガバナンス活動を管理します。これにより、生産的な自己参照構造が作成されますが、潜在的な脆弱性も導入されます。ゲート インフラストラクチャ自体に倫理的欠陥が含まれている場合、倫理研究所自身の活動のガバナンスによってその欠陥が永続化する可能性があります。

私たちは 3 つのメカニズムを通じてこのリスクを軽減します。まず、倫理研究所独自のゲートは最も保守的なレベル (構造変更の場合は EL-G2) で構成されており、すべての重要な変更は人によるレビューが確実に行われます。第 2 に、倫理研究所は独自の制約構成を独立した倫理委員会による外部レビューに定期的に提出します。第三に、サンドボックス シミュレーション フレームワークを使用して、倫理研究所自体のガバナンスに対する提案された変更を評価し、ガバナンス システムに適用される前にガバナンスの変更をテストするメタサンドボックスを作成します。

11.4 制限事項

いくつかの制限を認識する必要があります。

コンパイルの対象範囲 現在の Ethics-as-Constraint DSL は、5 つの基本的な制約タイプをカバーしています。多くの倫理原則、特に関係概念 (尊厳、敬意、連帯) に関わるものは、定量的な制約にまとめることを抵抗します。 94.7% のコンパイル率は、正規のパターンに一致する原則に適用されます。原則が一致しない場合は、手動による制約エンジニアリングが必要になります。

シミュレーションの忠実度。 サンドボックスの忠実度の限界 (定理 7.1) は、合成母集団の品質に依存します。実際の母集団には複雑な交差分布があり、合成ジェネレータでは捕捉できない可能性があります。敵対的なサブグループ (トレーニング データではあまり表現されていない人口統計グループ) は、合成集団では体系的に過小評価される可能性があります。

人間による校正の上限。 HECS 校正フィードバック ループは、人間の倫理的判断がフィードバックを通じて改善できることを前提としています。一部の形態の倫理的不一致（真の価値の多元主義）では、不一致は共有フレームワークの一貫性のない適用ではなく、異なる倫理的フレームワークを反映しているため、いくら調整しても合意は得られません。

時間範囲。 ドリフト検出モデルは、高周波振動 (単一ウィンドウ内で低下および回復する倫理遵守) を見逃す可能性があるウィンドウ平均を使用します。非常に長期的なドリフト (倫理規範の世代交代) は、モデルの時間的範囲外です。

11.5 今後の作業

この論文からは、将来の研究に向けたいくつかの方向性が明らかになります。

因果的倫理制約。 反事実の結果を参照する因果的制約タイプを使用して DSL を拡張します。「保護された属性が異なっていても、決定は同じだったでしょう。」これには、因果推論手法 (do-calculus、構造的因果モデル) との統合が必要であり、計算の扱いやすさに関する懸念が生じます。

敵対的堅牢性 敵対的攻撃下での 5 つのフレームワークの評価: 悪意のあるエージェントは、基礎となる倫理原則に違反しながら、コンパイルされた制約をすべて満たす決定を作成できるか?健全性と完全性のトレードオフ (定理 3.1) は、コンパイルが不完全な場合でもこれが理論的に可能であることを示唆しています。

組織間の倫理。 マルチユニバース倫理紛争マッピングを拡張して組織の境界を越えて運用できるようにします。これにより、共有エージェントを通じて対話する 2 つの組織が、それぞれの制約構成間の倫理的緊張を検出および管理できるようになります。

倫理を意識した強化学習。 コンパイルされた倫理的制約をシールド制約として RL ベースのエージェント トレーニングに統合し、学習されたポリシーが事後評価ではなく構築によって倫理的制約を確実に満たすようにします。

長期的な経験的検証。 セクション 9 で示される実験設計は、シミュレートされたエンタープライズ環境に基づいています。理論的な予測を確認し、モデル パラメーターを調整するには、複数の業界にわたる実稼働環境での長期的な実証的検証が必要です。

12. 結論

この論文では、倫理原則を宣言的記述からマルチエージェント システム内で計算可能なガバナンス構造に変換するための 5 つの数学的フレームワークを提示しました。倫理的制約形式化エンジンは、自然言語原則から実行可能な制約までのコンパイル パイプラインを提供します。倫理的ドリフト検出モデルは、コンプライアンスの低下を一時的に監視します。多宇宙倫理紛争マッピングにより、構造的な価値観の緊張が可視化され、管理可能になります。人間の監視調整モデルは、人間の倫理的判断が一貫性があり信頼できるものであることを保証します。倫理サンドボックス シミュレーションにより、ポリシーの影響を導入前に評価できます。

これらのフレームワークは合わせて、倫理ガバナンスを科学分野として扱う 4 つの部門からなる企業研究機関である Agentic Ethics Lab を構成します。ラボのクローズド ループ アーキテクチャにより、継続的な改善が保証されます。原則は、時間の経過とともに倫理コンプライアンスを強化するサイクルで形式化、展開、監視、分析、シミュレーション、校正、洗練されます。

核となる洞察はアーキテクチャに関するものです。AI システムの倫理は、哲学的な後付けやコンプライアンスのチェックボックスではありません。これはガバナンス アーキテクチャの構造的特性であり、意思決定パイプライン、ゲート評価関数、証拠バンドルと同様に基本的です。正式な制約仕様、ドリフト検出、競合マッピング、人間によるキャリブレーション、サンドボックス シミュレーションを通じて、AI システムに倫理を組み込んだ組織は、宣言、トレーニング、希望に依存する組織よりも、目に見えるほど優れた倫理的成果を達成するでしょう。

MARIA OS プラットフォームは、このアーキテクチャ上の洞察を具体的に実装します。 Ethics Universe、Ethics-as-Constraint DSL、Ethical Drift Index、Ethical Conflict Heatmap、Human Ethical Consistency Score、および Ethics Sandbox はすべて、既存の MARIA OS 意思決定パイプライン、フェイルクローズ ゲート、責任ゲート、および証拠バンドルと統合するように設計されています。倫理は、ガバナンス システムに組み込まれた別個のモジュールではありません。倫理は、すべてのゲート評価、すべてのドリフト チェック、すべての紛争解決、およびすべての人によるレビューにおける第一級の参加者です。

判断にはスケールがありません。実行は可能です。しかし、倫理なき死刑執行は怠慢である。ここで紹介するフレームワークは、道徳を数学に還元するのではなく、組織が守ることを選択した道徳原則を数学的ガバナンス構造が忠実に実装することを保証することによって、倫理を実行可能にします。これは、実行可能なアーキテクチャとしての倫理の約束です。機械が道徳的になるということではなく、機械を管理するシステムが構造的に、機械を導入する組織の道徳的取り組みを無視できないようになるということです。

参考文献

[1] Amodei, D.、Olah, C.、Steinhardt, J.、Christiano, P.、Schulman, J.、および Mane, D. (2016)。 AIの安全性における具体的な問題。 arXiv プレプリント arXiv:1606.06565。

[2] Barocas, S.、Hardt, M.、Narayanan, A. (2023)。 公平性と機械学習: 限界と機会。 MITプレス。

[3] ビンズ、R. (2018)。機械学習の公平性: 政治哲学からの教訓。 公平性、説明責任、透明性に関する 2018 年会議議事録、149--159。

[4] Chouldechova、A. (2017)。影響が異なる公正な予測: 再犯予測手段におけるバイアスの研究。 ビッグデータ、5(2)、153--163。

[5] Corbett-Davies, S.、および Goel, S. (2018)。公平性の尺度と誤った尺度: 公平な機械学習の批判的なレビュー。 arXiv プレプリント arXiv:1808.00023。

[6] Dwork, C.、Hardt, M.、Pitassi, T.、Reingold, O.、および Zemel, R. (2012)。意識による公平性。 第 3 回理論コンピューターサイエンス会議のイノベーション の議事録*、214--226。

[7] フロリディ、L.、カウルズ、J.、ベルトラメッティ、M.、チャティラ、R.、チャゼランド、P.、ディグナム、V.、… & ヴァイエナ、E. (2018)。 AI4People — 優れた AI 社会のための倫理的枠組み。 心と機械、28(4)、689--7

[8] ガブリエル、I. (2020)。人工知能、価値観、調整。 心と機械、30(3)、411--437。

[9] Hardt, M.、Price, E.、および Srebro, N. (2016)。教師あり学習における機会の平等。 神経情報処理システムの進歩、29.

[10] ジョビン、A.、イエンカ、M.、およびヴァイエナ、E. (2019)。 AI 倫理ガイドラインの世界的な状況。 Nature Machine Intelligence、1(9)、389--399。

[11] Kleinberg, J.、Mullainathan, S.、Raghavan, M. (2017)。リスクスコアの公正な決定における固有のトレードオフ。 理論的コンピュータサイエンスにおけるイノベーションに関する論文。

[12] Kroll, J. A.、Huey, J.、Barocas, S.、Felten, E. W.、Reidenberg, J. R.、Robinson, D. G.、および Yu, H. (2017)。責任あるアルゴリズム。 ペンシルベニア大学法学レビュー、165、633--705。

[13] Mittelstadt, B.D.、Allo, P.、Taddeo, M.、Wachter, S.、および Floridi, L. (2016)。アルゴリズムの倫理: 議論のマッピング。 ビッグデータと社会、3(2)。

[14] Selbst, A. D.、Boyd, D.、Friedler, S. A.、Venkatasubramanian, S.、および Vertesi, J. (2019)。社会技術システムにおける公平性と抽象化。 公平性、説明責任、透明性に関する会議議事録、59--68。

[15] シュナイダーマン、B. (2020)。倫理と実践の間のギャップを埋める: 信頼性が高く、安全で、信頼できる人間中心の AI システムのためのガイドライン。 インタラクティブ インテリジェント システム上の ACM トランザクション、10(4)、1--31。

[16] Whittlestone, J.、Nyrup, R.、Alexandrova, A.、Cave, S. (2019)。 AI 倫理における原則の役割と限界: 緊張の焦点に向けて。 AI、倫理、社会に関する AAAI/ACM 会議議事録、195--200。

[17] Zeng, Y.、Lu, E.、Huangfu, C. (2019)。人工知能の原則をリンクします。 arXiv プレプリント arXiv:1812.04814。

[18] ハーゲンドルフ、T. (2020)。 AI 倫理の倫理: ガイドラインの評価。 心と機械、30(1)、99--120。

[19] Rahwan, I.、Cebrian, M.、Obradovich, N.、Bongard, J.、Bonnefon, J. F.、Breazeal, C.、... & Wellman, M. (2019)。機械の動作。 自然、568(7753)、477--486。

[20] Russell, S.、Dewey, D.、Tegmark, M. (2015)。堅牢で有益な人工知能のための研究の優先事項。 AI マガジン、36(4)、105--114。

[21] ヴィール、M.、ビンズ、R. (2017)。現実世界でのより公平な機械学習: 機密データを収集せずに差別を軽減します。 ビッグデータと社会、4(2)。

[22] Wachter, S.、Mittelstadt, B.、および Russell, C. (2021)。公平性を自動化できない理由: EU 差別禁止法と AI の間のギャップを埋める。 コンピュータ法とセキュリティのレビュー、41、105567。

[23] Zerilli, J.、Knott, A.、Maclaurin, J.、Gavaghan, C. (2019)。アルゴリズムと人間による意思決定の透明性: 二重基準はありますか? 哲学とテクノロジー、32(4)、661--683。

[24] 欧州委員会。 （2021年）。人工知能に関する調和のとれたルールを定める規制の提案（人工知能法）。 COM/2021/206 最終。

[25] 米国国立標準技術研究所。 （2023年）。人工知能リスク管理フレームワーク (AI RMF 1.0)。 NIST AI 100-1。

[26] 国際標準化機構。 （2023年）。 ISO/IEC 42001: 情報技術 - 人工知能 - 管理システム。 ISO/IEC 42001:2023。

[27] アルバルグーシ、A. (2019)。ニューラル ネットワーク検証の概要。 プログラミング言語の基礎と傾向、7(1--2)、1--157。

[28] Bastani, O.、Pu, Y.、Solar-Lezama, A. (2018)。ポリシー抽出による検証可能な強化学習。 神経情報処理システムの進歩、31.

[29] Dalrymple, D.、Skalse, J.、Bengio, Y.、Russell, S.、Tegmark, M.、Seshia, S.、... & Kirchner, J. H. (2024)。安全な AI の保証に向けて: 堅牢で信頼性の高い AI システムを保証するためのフレームワーク。 arXiv プレプリント arXiv:2405.06624。

[30] Awad, E.、Dsouza, S.、Kim, R.、Schulz, J.、Henrich, J.、Shariff, A.、... & Rahwan, I. (2018)。モラルマシンの実験。 自然、563(7729)、59--64。

[31] Lundberg, S.M.、Lee, S.I. (2017)。モデル予測を解釈するための統一されたアプローチ。 神経情報処理システムの進歩、30.

[32] ヴェルマ、S.、ルービン、J. (2018)。公平性の定義について説明しました。 ソフトウェアの公平性に関する国際ワークショップの議事録、1--7。

[33] Mitchell, S.、Potash, E.、Barocas, S.、D'Amour, A.、および Lum, K. (2021)。アルゴリズムの公平性: 選択、仮定、定義。 統計とその応用の年次レビュー、8、141--163。

[34] ラジ、I.D.、スマート、A.、ホワイト、R.N.、ミッチェル、M.、ゲブルー、T.、ハッチンソン、B.、... & バーンズ、P. (2020)。 AI の説明責任のギャップを埋める: 内部アルゴリズム監査のためのエンドツーエンドのフレームワークを定義します。 公平性、説明責任、透明性に関する 2020 年会議議事録、33--44。