要旨
保険業界のアルゴリズム価格設定および引受システムは、信用スコアや請求履歴から地理的指標や行動テレメトリーに至るまで、数百もの入力機能を使用する機械学習モデルへの依存度を高めています。これらのモデルは、従来の評価テーブルと比較して優れた保険数理精度を実現しますが、トレーニング データに埋め込まれた過去のバイアスを継承し、増幅します。申請者の人種、性別、宗教を一度も見たことがない価格設定モデルでも、民族性と相関する郵便番号、社会経済的地位と相関する信用スコア、年齢と相関する車種などの代理変数を使用して差別することができます。この間接的な差別を検出するには、表面レベルの人口統計上の同等性チェック以上のものが必要です。
このペーパーでは、MARIA OS ガバナンス フレームワーク内で動作する保険 AI システム用に設計された 相関行列ベースの公平性スコアを紹介します。コア指標である Fairness(a) = 1 - max_j |corr(protected_j, Decision)| は、保護された属性と価格設定または引受決定との間の最大絶対相関を定量化します。この基本的な定式化を拡張して、マルチホップ相関経路を通じてプロキシの識別を検出します。この経路では、保護された属性が中間変数と相関し、中間変数が決定出力と相関します。
私たちはリアルタイムで公平性スコアを評価する公平性ゲートを形式化し、設定可能なしきい値タウを下回る価格決定をブロックします。このゲートは MARIA OS 責任ゲートと統合され、ブロックされたすべての決定、ブロックをトリガーした特定の相関経路、実行された修復アクションの監査可能な記録を作成します。これにより、公平性が定期的なコンプライアンス監査から継続的な執行メカニズムに変わります。
自動車保険の価格設定に関する実験結果では、相関行列アプローチにより、直接差別の 99.2% と代理差別経路の 94.7% が検出され、決定ごとの平均待ち時間はわずか +180 ミリ秒であることが実証されています。精度と公平性のトレードオフ分析では、公平性しきい値 tau = 0.85 を適用すると、制約なしモデルの予測精度の 96.3% が維持され、規制された保険市場にとって実用的なパレート フロンティアが確立されることが示されています。当社は、完全な数学的フレームワーク、ゲート構成ガイドライン、EU AI 法および米国の州保険規制への規制マッピング、および MARIA OS 導入のための統合アーキテクチャを提供します。
1. 保険におけるアルゴリズム差別問題
保険は数学的な性質上、差別のビジネスです。保険数理士は、高リスクの保険契約者と低リスクの保険契約者を区別して、予想される損失を反映した保険料を設定します。この差別は、自動車保険の場合は運転経歴、損害保険の場合は建物の構造の種類、生命保険の場合は健康歴など、保険数理的に正当化されたリスク要因に基づいている場合には、法的および倫理的に許容されます。それが、人種、性別、宗教、出身国、障害ステータス、または予想される損失と正当な保険数理上の関係を持たないその他の特徴など、保護された属性に基づく場合、法的に禁止され、倫理的に容認できなくなります。
許容可能なリスクの区別と禁止されている差別の境界は概念的には明確ですが、運用上は危険です。従来の格付表では、この境界を取り締まるのが比較的簡単でした。規制当局は格付要素を検査し、式に禁止変数が現れていないことを検証し、結果として得られる利率が保険数理上正当であることを確認できました。機械学習モデルはこの透明性を消し去ります。
1.1 プロキシ変数の問題
最新の保険価格モデルでは、200 以上の機能が使用される可能性があります。これらの機能はいずれも明示的に保護された属性ではありません。モデルには応募者の人種や性別が示されていません。それでも、このモデルは、プロキシ変数、つまり統計的代用として機能するのに十分に強力に保護された属性と相関する特徴を通じて、ほぼ同一の識別結果を達成できます。
米国の保険市場で観察された次のような経験的な相関関係を考慮してください。
- 郵便番号と人種: 米国の主要都市圏では、歴史的な住宅分離パターンにより、住宅の郵便番号は r = 0.65 ～ 0.85 で人種/民族と相関します。郵便番号を入力として使用する価格設定モデルは、暗黙的に人種を入力として使用します。
- 信用スコアと収入/人種: 信用スコアは、体系的な経済格差により、r = 0.45 ～ 0.60 で世帯収入と相関し、r = 0.30 ～ 0.45 で人種と相関します。信用ベースの保険スコアを使用するモデルは、これらの相関関係を継承します。
- 車両の種類と年齢/性別: 車両のメーカーとモデルの選択は、ドライバーの年齢 (r = 0.35 ～ 0.50) および性別 (r = 0.20 ～ 0.35) と相関します。スポーツカーの所有は若者と男性に偏りがある。ミニバンの所有者は高齢者と女性に偏っている。
- 職業と複数の属性: 職業コードは、教育 (r = 0.55)、収入 (r = 0.65)、人種 (r = 0.25 ～ 0.40)、および性別 (職業カテゴリに応じて r = 0.15 ～ 0.45) と相関します。
これらの相関関係はそれぞれ、個別に考えると無視できるほど弱いように見えるかもしれません。しかし、機械学習モデルは機能を個別に使用するのではなく、複雑な相互作用効果を利用します。郵便番号、クレジット スコア、車両の種類、職業を組み合わせたモデルは、それ自体が強力な代理となる単一の特徴がない場合でも、保護された属性を高い忠実度で再構築できます。
1.2 増幅効果
保険 AI における差別問題は、単に歴史的な偏見が保存されているだけではなく、増幅されています。機械学習モデルは、履歴データの予測精度を最適化します。過去のデータに差別的なパターンが含まれている場合（たとえば、歴史的に差別的な価格設定により、サービスが不十分な集団が補償範囲が不十分なために保険金請求の結果が悪化するというフィードバックループが形成されたため）、モデルはそれらのパターンを学習して強化します。以前のモデルの予測によって生成されたデータに対する各再トレーニング サイクルにより、初期バイアスが増幅される可能性があります。
この増幅効果を形式化します。 b_0 をトレーニング データの初期バイアスとし、alpha > 1 をトレーニング サイクルごとの増幅率とします。 k 回の再トレーニング サイクル後:
アルファ = 1.05 (保守的な推定値) で四半期ごとに再トレーニングされた典型的な保険価格モデルの場合、4 年 (16 サイクル) 後: b_16 = b_0 x 1.05^16 = 2.18 x b_0。 4 年間の運用でバイアスは 2 倍以上に増加します。これは理論上の懸念ではなく、初期モデルの検証だけでなく継続的な監視が必要となる運用上の現実です。
1.3 人口平等が不十分な理由
業界で最も一般的に適用される公平性基準は 人口統計的パリティ (統計的パリティとも呼ばれます) です。これは、決定結果が保護された属性から統計的に独立しているという要件です。正式には:
ここで、Y-hat は予測された結果、A は保護された属性です。保険用語では、承認率 (または平均保険料) が保護対象グループ全体で同一であることが必要です。
保険において人口動態の平等は、次の 3 つの基本的な理由により失敗します。
- 正当なリスクの違いは無視されます。 2 つのグループが、保護されていない要因 (例: 地理的分布の違いにより天候への曝露の違いにつながる) により真に異なるリスク プロファイルを持っている場合、人口統計上の平等により、保険数理上不健全で、保険規制上違法となる可能性がある相互補助金が必要になります。
- 偏ったモデルによって満足されます。 モデルは、各グループ内の個人に対して非常に不公平である一方で、人口統計上の完全な同等性を達成できます。モデルがグループレベルの平等を達成するために、あるグループの低リスクメンバーに体系的に過大請求し、高リスクメンバーに過少請求する場合、個人の公平性が侵害されます。
- 代理差別は検出されません。 郵便番号を人種の代理として使用するモデルは、差別メカニズムを使用しながら (郵便番号の効果がたまたまグループ間で均衡している場合)、人種間の人口統計的同等性を達成できます。
これらの制限は、単なる結果 (人口統計) ではなく、差別のメカニズム (相関経路) を調べる相関行列アプローチの動機となっています。
2. 公平性の定義: 分類法
相関ベースの公平性スコアを導入する前に、保険 AI に関連する公平性の定義の状況を確立します。それぞれの定義は公平性の異なる側面を捉えており、一般に相互に互換性がないことが知られています。この結果は、Chouldechova (2017) および Kleinberg らの不可能性定理によって形式化されています。 （2016年）。
2.1 人口統計的パリティ (統計的パリティ)
上で紹介したように、人口統計上の平等には、保護されたグループ全体で等しい陽性結果率が必要です。保険の価格設定では、これはグループ全体で平均保険料が等しいことになります。形式的には、価格設定関数 f(x) と保護された属性 A については次のようになります。
長所: 計算が簡単で、規制当局への説明が簡単で、グループレベルの平等の直感を満たします。 弱点: 基本料金の違いを無視し、個人レベルの不公平を許容し、差別のメカニズムに対処していない。
2.2 均等化されたオッズ (Hardt et al., 2016)
オッズを均等化するには、モデルの真陽性率と偽陽性率が保護グループ全体で等しいことが必要です。保険金請求予測では次のようになります。
これは、モデルがすべてのグループに対して同等に正確であることを意味します。モデルは、あるグループの主張を体系的に過剰予測したり、別のグループの主張を過小予測したりすることはありません。
長所: 基本レートの正当な差異を考慮し、予測精度の同等性に焦点を当てます。 弱点: 真のラベル (実際の請求) へのアクセスが必要であり、価格設定に循環依存関係が生じます (価格は請求の動作に影響します)。また、代理変数メカニズムにはまだ対応していません。
2.3 個人の公平性 (Dwork et al., 2012)
個人の公平性には、同様の個人が同様の結果を受けることが必要です。正式には、入力空間上の距離計量 d と出力空間上の距離計量 D については次のようになります。
ここで、L はリプシッツ定数です。保険数理上関連するすべての特徴が同一である 2 人の申請者は、保護される属性に関係なく、同一の保険料を受け取る必要があります。
長所: 公平性という直感的な概念を一貫性として捉えており、グループ定義を必要としません。 弱点: 「正しい」距離指標 d (どの特徴が保険数理に関連しているか?) を定義する必要があり、ペアごとの比較では計算コストが高く、大規模な母集団には対応できません。
2.4 反事実の公平性 (Kusner et al., 2017)
反事実的公平性は、他のすべてを一定にして、個人の保護される属性が異なる場合、決定は変わるでしょうか?形式的には、構造的因果モデルでは次のようになります。
これには、因果関係のメカニズム、つまり保護された属性が他の機能にどのような影響を与えるか、またそれらの機能が決定にどのような影響を与えるかについて推論する必要があります。
長所: 差別の因果メカニズムに取り組み、因果経路を通じて代理変数を処理します。 弱点: 完全な因果モデルが必要ですが、実際にはほとんど利用できません。因果モデル自体が偏った仮定をコード化する可能性があります。
2.5 私たちのアプローチ: 相関関係に基づくメカニズム分析
私たちの公平性スコアは、人口統計的平等の単純さと反事実的公平性の厳密さの間の実質的な中間点を占めています。完全な因果モデルを必要とする代わりに、特徴空間の相関構造を分析して識別経路を検出します。このアプローチは次のとおりです。
- 因果モデルを必要とせずに直接差別と代理差別の両方を検出します
- リアルタイムで動作します (事前に計算された相関構造の行列計算)
- バイナリの合格/不合格ではなく、連続的なスコアを生成します。
- ガバナンス システムのゲート強制しきい値に直接マッピング
- 特定の決定にフラグが付けられた理由の監査可能な証拠を作成します
重要な洞察は、相関関係は因果関係を示唆するものではないが、規制の文脈においては、保護された属性と価格決定の間の強い相関関係が（直接的か代理経由かにかかわらず）潜在的な差別の十分な証拠であるということです。その後、相関変数の保険数理上の正当性を証明する責任は保険会社に移ります。
3. 価格機能の相関行列の構築
当社の公平性検出システムの基礎は、観察された機能と保護された属性の両方を含む、価格設定モデル内のすべての機能間の統計的関係を捕捉する包括的な相関マトリックスです。
3.1 特徴空間の定義
X = {x_1, x_2, ..., x_n} を価格設定モデルで使用される n 個の機能のセットとし、A = {a_1, a_2, ..., a_m} を m 個の保護属性のセットとする。完全な特徴空間は F = X ∪ A で、p = n + m 個の変数が含まれます。
一般的な自動車保険の価格設定モデルでは、機能スペースには次のものが含まれる場合があります。
価格設定機能 X (n ~ 50-200): - 運転記録変数: 免許取得年数、事故数、違反数、飲酒運転歴 - 車両変数: メーカー、モデル、年式、エンジン サイズ、安全性評価、年間走行距離 - 地理的変数: 郵便番号、都市/地方の分類、職場までの距離 - 財務変数: 信用ベースの保険スコア、支払履歴、補償履歴 - 行動変数: テレマティクス データ (急ブレーキ、スピード違反、夜間運転) - 保険変数: 補償レベル、免責金額、複数保険の割引
保護された属性 A (m ~ 5-10): - 人種/民族 - 性別 - 年齢 (自動車保険の一部の管轄区域などで保護クラスとして使用される場合) - 出身国 - 宗教 - 障害ステータス - 婚姻状況 (一部の管轄区域では保護されています) - 性的指向 (一部の管轄区域では保護されています)
注: 価格設定モデルは、保護された属性を入力として直接消費しない場合があります。相関行列には、モデルが使用する特徴との統計的関係を測定するためにそれらが含まれています。
3.2 相関行列の計算
K 個のサンプルを含むトレーニング データセット D = {(f_1^(k), f_2^(k), ..., f_p^(k))}_{k=1}^{K} に対して次元 p x p のピアソン相関行列 C を計算します。
ここで、 f-bar_i は、すべてのサンプルにわたる特徴 i の平均です。結果として得られる行列 C は、C_ii = 1 および [-1, 1] の C_ij と対称です。
カテゴリ変数 (複数のカテゴリを持つ人種/民族など) の場合、ワンホット エンコーディングを使用し、点と双系列の相関を計算します。順序変数 (クレジット スコア層など) については、Spearman 順位相関を使用します。結合された行列では、変数ペアごとに適切な相関尺度が使用されます。
3.3 保護された決定サブマトリックス
完全な相関行列 C から、次元 m x 1 の 保護決定部分行列 S を抽出します。これには、各保護属性とモデルの出力決定 d (予測保険料または引受決定) の間の相関関係が含まれています。
この部分行列は、公平性スコアへの直接入力です。ただし、これは直接的な相関関係のみを捕捉します。代理変数を通じて差別を洗浄するモデルは、差別的な結果を生み出しながらも、S の値が低くなります。これは、次のセクションのプロキシ検出フレームワークの動機になります。
3.4 非線形関係の処理
ピアソン相関は線形関係のみを捕捉します。保険の価格設定には非線形の相互作用が含まれることがよくあります。たとえば、クレジット スコアと請求頻度の関係は非線形であり、しきい値スコアを下回る請求が急激に増加する場合があります。
非線形相関を捉えるために、次の 2 つの追加の尺度でピアソン行列を拡張します。
相互情報量 (MI): 連続変数 x および y の相互情報量は次のとおりです。
正規化相互情報量 (NMI) メトリックを使用して、MI を [0, 1] に正規化します。 NMI 値がしきい値デルタ (デルタ = 0.15 を使用) を超え、対応するピアソン相関が低い場合 (|C_ij| < 0.10)、さらなる調査が必要な非線形関係を示します。
距離相関 (Szekely et al.、2007): [0, 1] の距離相関 dCor(x, y) は、線形または単調だけでなく、あらゆる形式の依存関係を検出します。すべての保護属性/決定ペアの dCor を計算し、公平性スコアリングのための有効な相関として max(|C_ij|, dCor_ij) を使用します。
保護された属性 j と決定 d の組み合わせた相関尺度は次のとおりです。
これにより、線形または非線形の識別経路が検出を免れることがなくなります。
4. 代理識別検出
保護された属性と価格決定の間の直接の相関関係は、差別の最も明白な形態ですが、最新の ML モデルで差別がどのように現れるかはほとんどありません。代理弁別（弁別経路が 1 つ以上の中間変数を通過する場合）は、はるかに一般的であり、検出がはるかに困難です。
4.1 プロキシ経路
保護属性 a_j から決定 d までの プロキシ パスウェイ は、連続する各ペアが有意な相関を持つような一連の変数 (a_j、v_1、v_2、...、v_L、d) です。
ここで、イプシロンは最小相関しきい値です (イプシロン = 0.15 を使用します)。経路の長さ L は間接化の程度を示します。L = 0 は直接識別、L = 1 はシングルプロキシ識別、L >= 2 はマルチホッププロキシ識別です。
例 (自動車保険): 人種 -> 郵便番号 -> 平均通勤距離 -> 年間走行距離 -> 保険料。この経路では、人種は住居分離により郵便番号と相関し (r = 0.72)、都市計画パターンにより郵便番号は平均通勤距離と相関し (r = 0.45)、通勤距離は年間走行距離と相関し (r = 0.68)、年間走行距離は保険料と相関します (r = 0.55)。人種と保険料の間の直接の相関関係は、r = 0.12 のみである可能性があり、単純な検出しきい値を下回っています。しかし、代理経路は実質的な識別シグナルを伝達します。
4.2 経路の強度
代理経路の強さは、単にその構成要素の相関関係の積ではありません。一連の変数を介した相関伝播は、各中間関係の独立性によって弱められます。 経路の強さを次のように定義します。
ここで、v_0 = a_j および v_{L+1} = d。この製品は、経路を通じて伝播できる識別シグナルの上限を与えます。実際には、実際の識別信号は、(中間変数がノイズを追加する場合) より低くなる場合もあれば、(モデルが相互作用効果を利用する場合) より高くなる場合もあります。
上の例の場合: ガンマ = 0.72 x 0.45 x 0.68 x 0.55 = 0.121。これは控えめに見えますが、重要な洞察は、数百の機能を備えた価格モデルには通常、そのような経路が数十も含まれていることです。累積的な影響は相当なものになる可能性があります。
4.3 集約プロキシ効果
保護属性 a_j から決定 d までの合計プロキシ識別は、すべてのプロキシ パスウェイにわたる集計です。 集合プロキシ効果を、L_max までの長さのすべての経路にわたる最大経路強度として定義します。
3 ホップより長い経路は減衰した信号を伝送し、列挙するのに計算コストがかかるため、実際には L_max = 3 を使用します。 n 個の特徴を通る長さ L の候補経路の数は O(n^L) であるため、n = 200 個の特徴を持つ L_max = 3 では、最大 800 万個の経路を調べる必要があります。ペアごとの相関がイプシロンを超えるエッジのみをたどることによって、この検索空間を枝刈りします。
4.4 グラフベースのプロキシ検出アルゴリズム
特徴空間を重み付きグラフ G = (V, E, w) としてモデル化します。ここで、
- V = F ∪ {d} は、すべての特徴、保護された属性、および決定変数のセットです。
- E = {(i, j) : |corr(i, j)| > epsilon} は、有意に相関する変数を接続するエッジのセットです
- w(i, j) = |corr(i, j)|エッジの重みです
プロキシ検出は、このグラフ内の各保護属性 a_j から決定 d までの最も強いパスを見つけることになります。エッジの重みの (最小合計ではなく) 最大積を持つパスが必要なので、問題を変形します。 w'(i, j) = -log(w(i, j)) とします。次に、最も強い経路は、w' の下での最短経路に対応し、これをダイクストラのアルゴリズム (または深さ制限 L_max を備えた BFS) で解決します。
アルゴリズム: プロキシ パスウェイの検出
Input: Correlation matrix C, protected attributes A, decision d, thresholds epsilon, L_max
Output: For each a_j in A, the strongest proxy pathway and its strength
1. Construct graph G from C with edges where |C_ij| > epsilon
2. For each a_j in A:
a. Run BFS from a_j with depth limit L_max
b. For each path P from a_j to d with |P| <= L_max:
Compute Gamma(P) = product of |corr(v_l, v_{l+1})| along P
c. Record Pi_j = max Gamma(P) across all paths
d. Record the path P* that achieves Pi_j
3. Return {(a_j, Pi_j, P*_j)} for all j計算量は最悪の場合でも O(m x n^{L_max}) ですが、イプシロンによる枝刈りにより通常は 2 ～ 3 桁削減されます。 n = 200 の特徴、m = 8 保護属性、L_max = 3、イプシロン = 0.15 (エッジの約 85% を刈り取る) の場合、最新のハードウェアでの標準的な実行時間は 50 ミリ秒未満です。
4.5 偏相関分析
プロキシ経路の検出は相関連鎖を特定しますが、これらの連鎖の一部は偽である可能性があります。2 つの変数は、一方が他方の影響を媒介するからではなく、共通の原因を共有するために相関する可能性があります。真の調停と交絡調停を区別するために、偏相関を計算します。
中間変数 v を制御する a_j と d の間の偏相関は次のとおりです。
部分相関 corr(a_j, d | v) が周辺相関 corr(a_j, d) よりも大幅に低い場合、v は識別効果を媒介します (潜在的にロンダリングします)。部分相関が周辺相関と類似している場合、v を通る見かけの代理経路は偽です。
仲介率を使用してこれを定量化します。
1 に近い調停比 M_v は、v が強力なメディエーターであることを示します。モデルから v を削除すると、識別経路が大幅に減少します。 0 に近い調停比は、v が意味のあるメディエーターではないことを示します。 M_v > 0.5 の変数には、保険数理上の正当性が必要な重要な代用変数としてフラグが付けられます。
5. 公平性スコアの形式化
相関行列とプロキシ検出フレームワークが確立されたので、ゲートベースの強制の主要な指標として機能する公平性スコアを定義します。
5.1 基本的な公平性スコア
保護された属性 A に関する価格設定モデル f の 基本公平性スコアは次のとおりです。
ここで、 d = f(X) はモデルの価格決定です。このスコアの範囲は、0 (完全な識別 - 決定が保護された属性と完全に相関している) から 1 (保護された属性と決定の間に相関がない) までです。
max 演算子は、スコアが最悪の場合の保護された属性によって決定されるようにします。性別に関しては公平でも、人種に関しては不公平なモデルは、低い公平性スコアを受け取ります。この保守的な選択は、規制上の現実を反映しています。つまり、属性間の平均的な差別だけでなく、保護された属性に対する差別も禁止されています。
5.2 プロキシ検出による拡張公平性スコア
基本スコアには代理の区別がありません。集約プロキシ効果を組み込むことでこれを拡張します。
ここで、rho_j^{eff} はセクション 3.4 の有効直接相関 (ピアソン相関と距離相関を組み合わせたもの)、Pi_j はセクション 4.3 の集計プロキシ効果です。
この拡張スコアは、直接的および間接的な差別経路の両方を捕捉します。ネストされた最大演算子は、保護された属性ごとに直接パスウェイとプロキシ パスの両方で最悪の場合の属性を選択し、次にすべての保護された属性で最悪の場合を選択します。
5.3 決定ごとの公平性スコア
上記で定義されたスコアは、トレーニング データの分布に対して計算されたモデル レベルのメトリクスです。リアルタイムのゲート強制には、個々の価格決定を評価する決定ごとの公平性スコアが必要です。
特徴ベクトル x = (x_1, x_2, ..., x_n) を持つ特定の申請者 x について、この申請者の価格決定がプロキシ相関特徴にどの程度依存しているかを評価することにより、決定ごとの公平性スコアを計算します。
ここで、phi_i(x) は、申請者 x の特徴 i の Shapley 値、つまり、この特定の申請者の価格決定に対する特徴 i の限界寄与度です。積 |phi_i(x)| x |corr(a_j, x_i)|申請者 x の価格決定が保護属性 j と相関する機能にどの程度依存しているかを測定します。
この決定ごとのスコアは、特定のそれぞれの決定に対する実際の寄与度によって特徴相関を重み付けすることにより、モデル レベルの公平性を個人レベルの公平性に分解します。モデルのモデル レベルの公平性スコアは高くても、価格設定がプロキシ機能によって支配されている特定の申請者に対して不公平な決定が生じる可能性があります。
5.4 信頼度加重公平性スコア
有限サンプルからの相関推定には不確実性があります。この不確実性を定量化し、信頼度で重み付けした定式化を使用して公平性スコアに組み込みます。
ピアソン相関係数の標準誤差はおよそ次のとおりです。
ここで、K はサンプルサイズです。各相関の (1-アルファ) 信頼区間を構築し、公平性スコアリングに 悲観的な限界 (より大きな絶対値を持つ信頼区間のエンドポイント) を使用します。
信頼度で重み付けされた公平性スコアは、生の相関関係を悲観的な限界に置き換えます。
信頼度 95%、サンプル サイズ K = 100,000 (保険データセットの場合に一般的) では、相関推定値あたりの標準誤差は約 0.003 です。悲観的な調整により、各絶対相関に約 0.006 が追加されます。サンプルサイズが 10,000 未満の場合、調整は重要になり (SE > 0.01)、信頼度加重スコアは偽陰性 (小さなサンプルでは公平に見えるが、より大きな母集団では差別が明らかになる決定) に対する意味のある保護を提供します。
5.5 公平性スコアの特性
公平性スコア Fairness_ext(f) は、いくつかの望ましい特性を満たしています。
- 境界: [0, 1] の Fairness_ext(f)、1 は完全に公平、0 は最大限に不公平である
- 単調: 保護された属性との相関を減らすと、公平性スコアがわずかに増加します
- 保守的: max 演算子は、スコアが最悪の場合の保護された属性を反映するようにします。
- プロキシ対応: 集約プロキシ効果 Pi_j は間接差別を捉えます
- 非線形対応: 有効相関 rho_j^{eff} は非線形関係を捉えます。
- 堅牢なサンプル: 信頼度で重み付けされたバリアントは、有限サンプルの不確実性を考慮します。
スコアは加算的分解可能性を満たしていません。特徴ごとの公平性への寄与の合計として表すことができません。これは意図的なものです。差別は、個々の特徴の偏りの合計ではなく、特徴の相互作用から現れるシステムレベルの特性です。
6. ゲートベースの公平性の強制
公平性スコアは、強制メカニズムに接続されると運用上意味のあるものになります。私たちは、あらゆる価格決定をリアルタイムで評価し、公平性のしきい値を下回る決定をブロックする 公平性ゲート を設計します。
6.1 フェアネスゲートのアーキテクチャ
公平性ゲートは、価格設定モデルの出力と顧客向けのプレミアム見積もりの間の意思決定パイプラインに配置されます。その構造は次のとおりです。
Input: Applicant features x, model prediction f(x), correlation matrix C, proxy graph G
Output: PASS (premium is quoted to customer) or BLOCK (decision is escalated for review)
1. Compute per-decision fairness score: F_x = Fairness(f, x)
2. If F_x >= tau:
a. PASS: Record (x, f(x), F_x, timestamp) in audit log
b. Return f(x) as the premium quote
3. If F_x < tau:
a. Identify the protected attribute j* that caused the violation:
j* = argmax_j sum_i |phi_i(x)| * |corr(a_j, x_i)|
b. Identify the top-3 contributing features:
i* = argsort_i |phi_i(x)| * |corr(a_{j*}, x_i)|, descending
c. BLOCK: Record (x, f(x), F_x, j*, i*, timestamp) in audit log
d. Escalate to human underwriter with explanation
e. Return PENDING status to the quoting system閾値タウは主要な構成パラメータです。タウ値が高くなると、より厳密な公平性が適用され（より多くの決定がブロックされます）、その代わりに人間によるレビューが増え、潜在的な収益への影響が生じます。タウ値が低いほど、より自動化が可能になりますが、より多くの差別リスクを許容します。
6.2 しきい値の選択
公平性しきい値タウは、次の 4 つの競合する目的のバランスをとる必要があります。
- 規制遵守: タウは、ゲートを通過する決定が適用される差別禁止規制を満たすのに十分な高さでなければなりません
- 保険数理上の精度: タウは、保険数理上正当化された価格差をゲートがブロックしないように十分に低くなければなりません。
- 運用効率: tau は、人間によるレビューのキューが管理できなくなるほど多くの決定をブロックしてはなりません
- 顧客エクスペリエンス: tau では、過度の遅延なくタイムリーなプレミアム見積もりを許可する必要があります
データ駆動型のしきい値選択手順を提案します。
ステップ 1: 規制フロア。 過去のデータに基づいて公平性スコアの分布を計算します。 tau_floor を下回る公平性スコアを持つすべての決定が、歴史的に規制上の苦情または不利な検査結果と関連付けられてきたように、tau_floor を設定します。私たちの実験では、tau_floor = 0.75 でした。
ステップ 2: 動作上限。 ブロック率をタウの関数として計算します。ブロック率が人間のレビュー能力を超えないように tau_ceiling を設定します。引受チームが 1 日あたり 500 件の決定をレビューでき、システムが 1 日あたり 10,000 件の決定を処理する場合、最大ブロック率は 5% で、tau_ceiling は公平性スコア分布の 95 パーセンタイルになります。私たちの実験では、tau_ceiling = 0.95 でした。
ステップ 3: パレート最適化。 [tau_floor, tau_ceiling] の範囲内で、重み付けされた目標を最大化するために tau を選択します: w_1 x Accuracy(tau) + w_2 x Fairness(tau) - w_3 x BlockRate(tau)。重みは組織の優先順位を反映します。私たちの実験では、w_1 = 0.4、w_2 = 0.4、w_3 = 0.2 で、最適なしきい値は tau* = 0.85 です。
6.3 修復措置
公平性ゲートが決定をブロックすると、システムは人間のレビュー担当者に構造化された修復ガイダンスを提供します。
- 機能帰属レポート: どの機能が不公平性スコアに最も寄与したか、および Shapley 値の内訳を示します。
- プロキシ経路の視覚化: 保護された属性から決定までの特定の相関チェーン (各ステップの相関の大きさを含む)
- 反事実分析: 上位のプロキシ機能がグループ中立の値に置き換えられた場合、どのようなプレミアムが得られるか
- 同様の公正な決定: 公平性のゲートを通過した、同様のリスクプロファイルを持つ過去の決定であり、基準点を提供します。
- 推奨調整: 公平性スコアをタウ以上にするために必要な最小保険料調整
人間のレビュー担当者は次のことを行うことができます。
1. 正当な理由で上書き: 監査証跡に記録された保険数理上の正当な理由を使用して元の保険料を承認します。 2. プレミアムを調整: プレミアムを変更してプロキシ効果を軽減し、公平性スコアをタウよりも高くします。 3. さらにエスカレーション: 複雑なケースについては、上級保険会社またはコンプライアンス担当者にケースを送信します。 4. モデルにフラグを立てる: このケースにおけるモデルの動作が、モデルの再トレーニングを必要とする系統的なバイアスを示唆していることを示します。
6.4 フェールクローズ機構としてのフェアネス ゲート
フェアネス ゲートはフェールクローズ セマンティクスを実装しています。ゲートでエラーが発生した場合 (相関行列が利用できない、シャプレー計算が失敗する、またはフェアネス スコアの計算がタイムアウトになるなど)、決定を通過させるのではなくブロックします。これは、MARIA OS フェールクローズド ゲートの哲学に沿った意図的な設計選択です。
フェールクローズのデフォルトにより、公平性が評価されていないプレミアムがシステムによって見積もられることがなくなります。この選択による運用コストは、潜在的に差別的な見積もりではなく、システム障害によって価格設定の遅れが生じることです。規制された保険市場では、これは正しいトレードオフです。見積りの遅れは迷惑です。差別的な引用は規制違反であり、顧客に損害を与えます。
7. トレードオフ: 正確性と公平性
価格設定モデルに公平性の制約を強制すると、必然的に予測精度が低下します。代理相関特徴を使用できないモデルは、(純粋に統計的な意味で) クレームを予測する情報を失います。問題は、トレードオフがあるかどうかではなく、それがどれほど深刻なのか、そして効率的なフロンティアはどこにあるのかということです。
7.1 正式なトレードオフの枠組み
L(f) を価格設定モデル f の保険数理損失 (予測損失率と実際の損失率の差) とし、Fairness(f) を拡張公平性スコアとする。制約のないモデル f* は、公平性を考慮せずに L(f) を最小化します。公平性制約モデル f_tau は、Fairness(f) >= tau を条件として L(f) を最小化します。
閾値タウにおける 公平性の精度コストは次のとおりです。
これは、保険会社が公平性のためにどれだけ保険数理の精度を犠牲にしているかを測定します。 パレート フロンティアは、タウが 0 から 1 まで変化するにつれて曲線 (Fairness(f_tau), L(f_tau)) を描きます。
7.2 理論上の限界
精度コストのおおよその上限を導き出します。保護された属性と相関する特徴からのモデル精度への寄与度の合計がデルタであり、しきい値 tau での公平性制約により、この寄与度の一部の β(tau) が効果的に削除される場合、次のようになります。
割合 beta(tau) は、公平性のしきい値によって制限される特徴の数によって異なります。タウ = 0.85 では、実験ではベータ = 0.25 (代理相関予測信号の 25% が除去される) を示しています。デルタ = 0.15 (プロキシ相関特徴量がモデル全体の精度の 15% に寄与する) の場合、Delta_L(0.85) <= 0.15 x 0.25 = 0.0375 となり、最大 3.75% の精度低下を意味します。
7.3 自動車保険のパレート分析
120 の特徴を持つ 150,000 の保険契約でトレーニングされた自動車保険価格モデルのパレート フロンティアを構築します。ベースライン モデル (勾配ブースト ツリー、公平性制約なし) は、62.3% の損失率を達成します (業界平均は 60 ～ 65%)。制約付きモデルを tau = {0.70, 0.75, 0.80, 0.85, 0.90, 0.95} でトレーニングします。
| tau | Fairness Score | Loss Ratio | Accuracy Retained | Block Rate |
|---|---|---|---|---|
| 0.70 | 0.73 | 62.5% | 99.7% | 1.2% |
| 0.75 | 0.78 | 62.8% | 99.2% | 2.8% |
| 0.80 | 0.83 | 63.1% | 98.7% | 4.5% |
| 0.85 | 0.87 | 63.6% | 96.3% | 6.1% |
| 0.90 | 0.92 | 64.8% | 94.0% | 9.3% |
| 0.95 | 0.96 | 67.2% | 89.1% | 15.8% |
パレートフロンティアは、タウ = 0.85 で特徴的なエルボを示します。このしきい値を下回ると、公平性の向上は最小限の精度コストで実現されます (このモデルは、信号をあまり失わずに冗長なプロキシ機能を削除することで差別を軽減できます)。 tau = 0.85 を超えると、残りのプロキシ機能が構造上の理由から保護された属性と相関する本物の保険数理シグナルを伝送するため、コストが急激に増加します。
7.4 エルボの解釈
タウ = 0.85 のエルボには重要な解釈があります。これは、除去可能な差別 (保護された属性と相関しているが、他の特徴を超えて保険数理上の価値を追加しない特徴からのバイアス) と 構造的相関 (根底にあるリスク要因が異なる人口統計分布を持っているため、保険数理上関連しており、保護された属性と相関している特徴の両方) の間の境界を示しています。
エルボより下の公平性制約は、本質的にノイズと共線性を除去する正則化です。このモデルは、より少ない特徴量でほぼ同じ精度を達成しており、それらの特徴量が最も識別力が高いと言えます。これは、公平性と正確性がほぼ一致する「フリーランチ」ゾーンです。
エルボより上では、公平性制約により本物の保険数理シグナルが削除され始めます。たとえば、天候への曝露などの地理的リスク要因は、保険数理上関連しており（ひょう嵐により保険金請求が増加する）、また人種と相関関係がある（住居分離による）。これらの要因を除去すると、識別性は低下しますが、精度も低下します。これは、保険会社と規制当局が明確な価値判断を下さなければならないトレードオフゾーンです。
7.5 多目的最適化
デフォルトの tau = 0.85 ではなく、パレート フロンティア上の点を選択したい組織のために、多目的最適化を定式化します。
以下の条件が適用されます: Fairness(tau) >= tau_floor (規制最小値)、BlockRate(tau) <= BlockRate_max (運用上の制約)、Delta_L(tau) <= Delta_L_max (保険数理上の制約)。
重み (w_L、w_B、w_F) は組織の優先順位をエンコードします。消費者を重視する保険会社は、w_F を高く設定する場合があります。収益性を重視する保険会社は、w_L を高く設定する場合があります。規制当局は、w_F = 1、w_L = w_B = 0 (いかなる犠牲を払っても公平であること) を義務付ける場合があります。
8. MARIA OS 責任ゲートとの統合
フェアネス ゲートは単独では動作しません。 MARIA OS 責任ゲート フレームワークと統合されており、ゲート評価、意思決定ルーティング、監査ログ、ヒューマン エスカレーションのインフラストラクチャを提供します。
8.1 MARIA 座標マッピング
MARIA OS 座標系 (G.U.P.Z.A) では、保険価格設定システムは次のようにマッピングされます。
G1 (Enterprise Tenant)
U_ins (Insurance Business Unit)
P_pricing (Pricing Domain)
Z_auto (Auto Insurance Zone)
A_rater (Rating Agent)
A_fairness (Fairness Gate Agent)
A_underwriter (Human Underwriter Agent)
Z_property (Property Insurance Zone)
...
P_underwriting (Underwriting Domain)
Z_risk (Risk Assessment Zone)
A_risk_model (Risk Model Agent)
A_fairness_uw (Fairness Gate Agent - Underwriting)
...フェアネス ゲート エージェント (A_fairness) は、価格設定プラネット内のゾーン レベルで動作します。格付けエージェント (A_rater) からすべての価格決定決定を受け取り、公平性スコアを評価し、その決定を下流に渡すか、人間の引受会社エージェント (A_underwriter) にエスカレーションします。
8.2 責任状態ベクトルによるゲート設定
フェアネス ゲートは、次のように MARIA OS 責任状態ベクトル (I、R、a、h、g、e) にマップされます。
- 影響 (I): 標準的な価格設定の決定 (顧客への財務的影響) の場合は 0.7、大規模な商業政策の場合は 0.9、既知の脆弱な人々が関与する決定の場合は 1.0 に設定されます。
- リスク (R): 動的、公平性スコアから導出されます。 R = 1 - 各決定の公平性(f, x)。公平性スコア 0.85 は R = 0.15 にマッピングされます。公平性スコア 0.60 は R = 0.40 にマッピングされます。
- 自動化レベル (a): 標準の自動価格設定 (高度な自動化) の場合は 0.9 に設定され、フラグが立てられたケースの場合は 0.5 に減らされます。
- 人間の介入 (h): ゲートによって決定されます。 Fairness(f, x) >= タウの場合、h = 0。 Fairness(f, x) < tau の場合、h = 1
- ゲート強度 (g): フェアネス ゲート (高精細) の場合は 0.8 に設定、製品ラインごとに構成可能
- 証拠の十分性 (e): 信頼度で重み付けされた公平性スコアから導出されます。高いサンプルサイズと安定した相関により、高い e が生成されます。サンプルサイズが小さい、または相関が不安定な場合、e が低くなります。
責任シフト メトリック RS = max(0, I x R x L - (1 - a)) は、システム レベルのチェックを提供します。フェアネス ゲートの設定が間違っている場合 (タウの設定が低すぎるなど)、RS が増加し、フェアネス ゲートが適切なガバナンスを提供していないというシステム レベルのアラートがトリガーされます。
8.3 監査証跡の統合
すべての公平性ゲート評価により、MARIA OS 決定ログに不変の監査レコードが生成されます。
{
"decision_id": "d-2026-02-12-001847",
"gate_type": "fairness",
"timestamp": "2026-02-12T14:23:01.847Z",
"coordinate": "G1.U_ins.P_pricing.Z_auto.A_fairness",
"input": {
"applicant_hash": "sha256:a1b2c3...",
"model_version": "auto-rate-v3.2.1",
"predicted_premium": 1847.00
},
"evaluation": {
"fairness_score": 0.82,
"threshold": 0.85,
"worst_attribute": "race_ethnicity",
"worst_pathway": ["zip_code", "median_income", "credit_score"],
"pathway_strength": 0.18,
"shapley_top3": [
{"feature": "zip_code", "contribution": 0.12, "protected_corr": 0.72},
{"feature": "credit_score", "contribution": 0.08, "protected_corr": 0.38},
{"feature": "vehicle_age", "contribution": 0.05, "protected_corr": 0.15}
]
},
"result": "BLOCKED",
"escalated_to": "G1.U_ins.P_pricing.Z_auto.A_underwriter",
"evidence_bundle_id": "eb-2026-02-12-001847"
}この監査レコードは完全な追跡可能性を提供します。つまり、決定を生成したモデル バージョン、公平性スコアは何か、ブロックをトリガーした保護属性、特定のプロキシ パスウェイ、機能の貢献、決定がエスカレーションされた場所などです。このレベルの詳細は、規制調査、内部コンプライアンス監査、モデルの改善に不可欠です。
8.4 フィードバック ループ: ゲート ブロックからモデルの再トレーニングへ
フェアネス ゲートは単に不公平な決定をブロックするだけではなく、モデルを改善するためのトレーニング シグナルを生成します。集約されたゲート ブロック パターンは、ゲート レベルではなくモデル レベルで対処する必要がある系統的なバイアスを明らかにします。
月次公平性レポートの生成:
1. 過去 1 か月間のすべてのゲート ブロックを集計する 2. ブロックをトリガーする最も一般的な保護属性を特定する 3. ブロックに寄与する最も一般的なプロキシ機能を特定する 4. 傾向を計算します。ブロック レートは増加していますか (バイアス増幅)、それとも減少していますか (モデルの改善)。 5. 再トレーニングの推奨事項を生成します: どの特徴を削除するか、どの相関を正規化するか、どの相互作用項を制約するか
このフィードバック ループにより、フェアネス ゲートが永続的な応急処置ではなく、モデル改善の触媒となることが保証されます。理想的な定常状態は、保護された属性との内部相関が十分に低く、外部強制なしでしきい値を満たすため、ゲートがほとんどトリガーされないモデルです。
9. ケーススタディ: 自動車保険の価格設定
業界統計に合わせて調整された合成データを使用して、包括的な自動車保険価格設定シナリオに関する公平性スコアのフレームワークを検証します。
9.1 データセットとモデル
データセット: 120 の特徴を備えた 150,000 の自動車保険契約。運転記録 (12 の特徴)、車両の特性 (18 の特徴)、地理的要因 (15 の特徴)、財務指標 (10 の特徴)、テレマティクス データ (35 の特徴)、保険契約の特徴 (10 の特徴)、および人口動態変数 (8 つの保護属性を含む 20 の特徴) を含みます。データセットは合成ですが、米国の自動車保険市場に関する出版された研究で観察された相関構造を再現するように調整されています。
モデル: 500 個のツリー、最大深さ 6、学習率 0.05 の勾配ブースト ツリー アンサンブル (XGBoost)。このモデルは、120 の特徴から年間保険金請求コスト (純粋な保険料) を予測します。保護された属性はモデル入力から除外されますが、相関分析には含まれます。
保護される属性: 人種/民族 (5 カテゴリー)、性別 (2 カテゴリー)、年齢層 (6 カテゴリー)、国籍 (二値)、障害ステータス (二値)、婚姻状況 (3 カテゴリー)、性的指向 (3 カテゴリー)、宗教 (6 カテゴリー)。
9.2 ベースライン相関分析
制約なしモデル (公平性制約なしでトレーニングされた) は、次の保護属性と決定の相関関係を生成します。
| Protected Attribute | Direct Corr | Max Proxy Pathway | Proxy Strength | Effective Corr |
|---|---|---|---|---|
| Race/ethnicity | 0.08 | ZIP -> income -> credit_score | 0.18 | 0.18 |
| Gender | 0.12 | vehicle_type -> annual_mileage | 0.14 | 0.14 |
| Age group | 0.22 | years_licensed -> accident_count | 0.25 | 0.25 |
| National origin | 0.05 | ZIP -> language_pref -> telematics_opt_in | 0.11 | 0.11 |
| Disability status | 0.03 | vehicle_modification -> annual_mileage | 0.07 | 0.07 |
| Marital status | 0.09 | multi_car_discount -> vehicle_count | 0.10 | 0.10 |
| Sexual orientation | 0.02 | ZIP -> household_size | 0.04 | 0.04 |
| Religion | 0.01 | ZIP -> community_group | 0.03 | 0.03 |
ベースラインの公平性スコアは次のとおりです: Fairness_ext(f*) = 1 - max(0.18, 0.14, 0.25, 0.11, 0.07, 0.10, 0.04, 0.03) = 1 - 0.25 = 0.75。
このスコア 0.75 は、推奨しきい値である tau = 0.85 を下回っており、制約なしモデルには公平性に関する重大な懸念があることが示されています。最悪の場合の属性は年齢グループで、直接相関は 0.22 (年齢はリスク要因を通じて価格に直接影響する) と、運転経験と事故歴による代理経路の強度は 0.25 です。
9.3 公平性を制約した再トレーニング
損失関数に公平性正則化項を追加してモデルを再トレーニングします。
ここで、ラムダは公平性正則化の重みです。相互検証に基づいて lambda = 2.0 を設定します。
再トレーニングされたモデルは次のことを実現します。
| Protected Attribute | Direct Corr | Proxy Strength | Effective Corr |
|---|---|---|---|
| Race/ethnicity | 0.04 | 0.09 | 0.09 |
| Gender | 0.06 | 0.08 | 0.08 |
| Age group | 0.11 | 0.13 | 0.13 |
| National origin | 0.02 | 0.05 | 0.05 |
| Disability status | 0.01 | 0.03 | 0.03 |
| Marital status | 0.04 | 0.06 | 0.06 |
| Sexual orientation | 0.01 | 0.02 | 0.02 |
| Religion | 0.00 | 0.01 | 0.01 |
再トレーニングされた公平性スコアは、Fairness_ext(f_tau) = 1 - 0.13 = 0.87 で、しきい値 tau = 0.85 を超えています。
精度への影響: 損失率は 62.3% から 63.6% に増加し、1.3 パーセントポイント増加しました。これは予測精度の 3.7% の低下を表します。これはほとんどの保険会社にとって十分許容範囲内であり、理論上の限界である 3.75% と一致しています。
9.4 ゲート強制執行の結果
再トレーニングされたモデルと tau = 0.85 を使用すると、フェアネス ゲートは 30 日間のシミュレーションにわたって次の運用メトリックを生成します。
- 評価された決定の合計: 10,000
- 可決された決定: 9,390 (93.9%)
- ブロックされた決定: 610 (6.1%)
- 平均公平性スコア (合格): 0.91
- 平均公平性スコア (ブロック): 0.79
- 平均ゲート遅延: 180ms
- ブロックされた決定に対する人間のレビュー担当者のアクション:
40.2% の上書き率は、ブロックされた決定のかなりの部分が誤検知、つまり保険数理上正当な理由で保護された属性と相関する決定であることを示しています。このオーバーライド データはモデルにフィードバックされ、正当なリスク要因と差別的なプロキシを区別する公平性スコアの能力が向上します。
9.5 プロキシパスウェイの検出
30 日間のシミュレーション中に発見された最も重要なプロキシ経路は次のとおりです。
経路 1: 人種 -> 郵便番号 -> 収入 -> クレジットスコア -> プレミアム (ガンマ = 0.18) これは保険業界で最もよく知られた代理経路です。住居分離は郵便番号と人種の相関関係を生み出し、郵便番号は収入の中央値と相関し、収入は信用スコアと相関し、信用スコアは強力な価格設定要因となります。公平性ゲートは、この経路が原因でブロックされた決定 610 件のうち 312 件にフラグを立てました。
経路 2: 年齢 -> 免許取得年数 -> 事故数 -> 保険料 (ガンマ = 0.25) この経路は部分的には正当であり、運転経験によって事故のリスクが真に予測されます。ただし、年齢の直接的な相関関係は、モデルが経験に基づく保険数理上の正当性を超えて年齢を評価要因として使用している可能性があることを意味します。ゲートはこの経路に関する 198 件の決定にフラグを立て、そのうち 62% が引受会社によって上書きされました (正当なリスクの差別化を示しています)。
経路 3: 性別 -> 車両タイプ -> 年間走行距離 -> 保険料 (ガンマ = 0.14) 車の選択パターンは性別によって異なり、車のタイプは走行距離とリスクプロファイルに相関します。ゲートは、この経路に関する 100 件の決定にフラグを立て、オーバーライド率が低く (28%)、このモデルが車種による価格設定シグナルとして性別を純粋に使用していたことを示唆しています。
10. 規制の状況
保険の公平性は単なる倫理的願望ではなく、ほとんどの管轄区域で法的要件です。フェアネス ゲート フレームワークは、EU と米国全体の特定の規制要件を満たすように設計されています。
10.1 EU AI 法 (規則 2024/1689)
EU AI 法では、AI システムをリスク レベルごとに分類しています。保険価格設定システムは 高リスク に分類されます (附属書 III、セクション 5(b): 信用度の評価または信用スコアの確立に使用される AI システム。規制上の解釈により保険価格設定に拡張されます)。高リスクのシステムは以下を満たす必要があります。
- 第 9 条 (リスク管理): リスク管理システムを確立、実施、文書化、維持しなければなりません。フェアネス ゲートは、文書化されたしきい値、評価基準、修復手順による継続的なリスク監視を提供することで、この要件を満たします。
- 第 10 条 (データ ガバナンス): トレーニング データはバイアスがないか検査する必要があります。相関行列分析は、トレーニング データの偏りを定量化し、代理経路の文書化された証拠を生成することでこれを満たします。
- 第 13 条 (透明性): システムは人間による監視を可能にするように設計されなければなりません。フェアネス ゲートの監査証跡、Shapley ベースの説明、および人間によるエスカレーション パスは、この要件を満たします。
- 第 14 条 (人間による監視): 高リスク AI は、動作中に人間による監視を許可しなければなりません。フェアネス ゲートのブロック アンド エスカレート メカニズムは、まさにこれを提供します。つまり、人間が公平性のしきい値を下回るすべての決定をレビューします。
- 第 15 条 (精度、堅牢性、サイバーセキュリティ): システムは適切なレベルの精度を達成しなければなりません。当社のパレート分析は、精度と公平性のトレードオフを実証し、情報に基づいた構成の選択を可能にします。
10.2 米国州保険規制
米国の保険規制は州ベースであり、管轄区域ごとに要件が異なります。最も関連性の高い規制は次のとおりです。
コロラド州 SB21-169 (保険におけるアルゴリズム的公平性): 2023 年から施行されるこの法律は、保険会社が人種、肌の色、出身国、宗教、性別、性的指向、障害、性同一性、または性表現に基づいて不当に差別する外部の消費者データおよび情報ソース、アルゴリズム、または予測モデルを使用することを禁止しています。フェアネス ゲートは、差別的な価格決定をリアルタイムで検出してブロックすることで、この要件に直接対処します。
ニューヨーク回覧書第 1 号 (2019 年): 引受業務に外部データ ソースを使用する保険会社に対し、データが不当な差別的な結果をもたらさないようにすることを義務付けています。相関行列分析は、この要件を満たすために必要な定量的な証拠を提供します。
カリフォルニア州提案 103 (1988 年、継続的な規制更新): 特定の格付け要素 (個人自動車保険の信用スコアを含む) の使用を禁止し、保険数理上の正当性を証明するために料率申告を義務付けています。公平性スコア フレームワークは、禁止されている評価要素である機能にフラグを付けることで、カリフォルニア州固有の制約を強制するように構成できます。
NAIC モデル速報 (2024): 全国保険委員協会は、保険における AI の使用に関するモデル速報ガイダンスを発行し、AI システムが不当な差別を行っていないことを証明することを保険会社に求めました。フェアネス ゲートの監査証跡と公平性スコアのレポートは、速報の文書化要件を満たしています。
10.3 公平性スコアと規制要件とのマッピング
公平性スコアのしきい値を特定の規制要件にマッピングします。
| Regulation | Required Threshold | Gate Configuration |
|---|---|---|
| EU AI Act (high-risk) | tau >= 0.80 | g = 0.8, full proxy detection, quarterly correlation review |
| Colorado SB21-169 | tau >= 0.85 | g = 0.9, proxy detection + partial correlation, monthly review |
| NY Circular Letter | tau >= 0.80 | g = 0.8, external data source correlation focus |
| CA Proposition 103 | tau >= 0.90 | g = 1.0, prohibited factor detection + proxy detection |
| NAIC Model Bulletin | tau >= 0.80 | g = 0.8, documentation-focused, annual review |
これらのマッピングは、規制遵守の出発点となります。実際には、保険会社はコンプライアンス チームと協力して、特定の商品ライン、管轄区域、リスク選好度に基づいてしきい値を調整する必要があります。
10.4 規制審査の準備状況
フェアネス ゲート フレームワークは、規制審査に必要なすべての文書を作成します。
- 相関行列レポート: 統計的有意性検定を使用した完全な機能と保護属性の相関分析
- プロキシ パスウェイ レポート: 検出されたすべてのプロキシ パスウェイと強度計算および媒介分析
- 公平性スコアの履歴: モデルレベルおよび決定レベルの公平性スコアの時系列
- ゲート アクション ログ: すべてのブロック、パス、オーバーライド、およびエスカレーション (タイムスタンプと責任者付き)
- 精度と公平性のトレードオフ分析: 保険会社が選択した運用点と正当化によるパレート フロンティア
- モデルの再トレーニング履歴: 公平性を重視したすべてのモデル変更の記録 (公平性スコアの前後)
このドキュメント パッケージは、規制遵守を遡及的な監査から、リアルタイムの監視とプロアクティブな修復を伴う継続的なプロセスに変換します。
11. ベンチマーク
検出精度、計算パフォーマンス、公平性と精度のトレードオフ、代替の公平性手法との比較という 4 つの側面にわたるベンチマーク結果を報告します。
11.1 検出精度
バイアス パターンが注入された合成データセット内の既知の差別を検出する公平性スコアの能力を評価します。
直接識別検出: r = 0.01 ～ r = 0.50 の範囲で、保護された属性と決定の間の直接相関を注入した 1,000 のモデル バリアントを作成します。公平性スコアは、r = 0.05 を超える注入相関を持つモデル バリアントの 99.2% を正確に識別します (tau = 0.85 未満のスコアを持つフラグ)。 0.8% の偽陰性は、検出境界付近の r = 0.05 と r = 0.08 の間の相関レベルで発生します。
プロキシ識別検出: さまざまな長さと強度のプロキシ経路を注入した 1,000 のモデル バリアントを作成します。経路の長さによる検出率:
| Pathway Length | Detection Rate | Avg Pathway Strength at Detection Boundary |
|---|---|---|
| L = 1 (single proxy) | 98.4% | 0.12 |
| L = 2 (two-hop) | 94.7% | 0.08 |
| L = 3 (three-hop) | 87.3% | 0.06 |
経路が長いほどシグナルがより減衰するため、経路の長さに応じて検出精度は低下します。 87.3% という L = 3 の検出率は、依然として代替方法よりも大幅に優れています (セクション 11.4 を参照)。
11.2 計算パフォーマンス
標準サーバー (AWS m6i.xlarge、4 vCPU、16 GB RAM) でのタイミング ベンチマーク:
| Operation | Time | Frequency |
|---|---|---|
| Correlation matrix computation (n=120, K=150,000) | 2.3s | Monthly (offline) |
| Proxy graph construction (n=120, epsilon=0.15) | 0.4s | Monthly (offline) |
| Proxy pathway detection (m=8, L_max=3) | 0.05s | Monthly (offline) |
| Per-decision fairness score (Shapley-based) | 150ms | Per decision (real-time) |
| Gate evaluation (score comparison + audit logging) | 30ms | Per decision (real-time) |
| Total per-decision overhead | 180ms | Per decision (real-time) |
決定ごとの 180 ミリ秒のオーバーヘッドは、Shapley 値の計算 (150 ミリ秒) によって占められます。より低いレイテンシを必要とするアプリケーション向けに、決定ごとの Shapley 値の代わりに事前に計算された特徴重要度の重みを使用する高速近似モードを提供します。これにより、検出精度が約 3% 低下する代わりに、決定ごとのオーバーヘッドが 12 ミリ秒に削減されます。
11.3 公平性と精度のパレートフロンティア
セクション 7.3 のパレート フロンティアの結果を、追加の詳細とともにここに要約します。
重要な発見: タウ = 0.85 のエルボは、ほとんどの保険アプリケーションにとって最適な動作点を表します。このしきい値では、87% の公平性スコアを達成しながら、96.3% のモデル精度が維持されます。タウ = 0.80 未満では、精度コストは無視できます (< 1%) が、公平性の向上は最小限です。 tau = 0.90 を超えると、公平性はわずかに向上しますが、精度は急激に低下します (> 5%)。
主要なしきい値での公平性の限界コスト (公平性の向上単位あたりの精度損失):
| Threshold Range | Marginal Accuracy Cost | Interpretation |
|---|---|---|
| tau: 0.70 -> 0.80 | 0.6% per 0.10 fairness | Near-free fairness improvement |
| tau: 0.80 -> 0.85 | 1.6% per 0.05 fairness | Moderate cost, strong improvement |
| tau: 0.85 -> 0.90 | 2.3% per 0.05 fairness | Higher cost, diminishing returns |
| tau: 0.90 -> 0.95 | 4.8% per 0.05 fairness | Steep cost, structural correlations |
11.4 代替手法との比較
同じ自動車保険データセットに対して、相関行列の公平性スコアを 4 つの代替公平性手法と比較します。
| Method | Direct Detection | Proxy Detection | Latency | Interpretability |
|---|---|---|---|---|
| Demographic parity check | 85.3% | 12.1% | 5ms | High |
| Equalized odds audit | 91.7% | 28.4% | 45ms | Medium |
| Adversarial debiasing (Zhang et al., 2018) | 93.2% | 67.5% | 2.1s | Low |
| **Correlation matrix (ours)** | **99.2%** | **94.7%** | **180ms** | **High** |
相関行列アプローチは、直接検出とプロキシ検出の両方において、すべての代替方法よりも優れたパフォーマンスを発揮します。人口動態パリティはメカニズムではなく結果を評価するため、代理差別を検出できません。均等化されたオッズでは、結果分析を通じて一部の代理効果が得られますが、間接的な経路は見逃されます。敵対的バイアス軽減には中程度のプロキシ検出がありますが、計算コストが高く、解釈可能性が低くなります (敵対的ネットワークはブラック ボックスとして機能します)。私たちの方法は、完全な解釈可能性を備えた最高の検出率を達成します。すべてのフラグには、特定の相関経路の説明が付いています。
12. 今後の方向性
相関行列の公平性フレームワークは、さらなる研究開発のためのいくつかの道を開きます。
12.1 因果的公平性の統合
現在のフレームワークは、因果関係のある差別経路の代用として相関関係を使用します。これは実際には効果的ですが (相関関係は因果関係には必要ですが、十分ではありません)、因果関係の経路ではなく共通の原因によって 2 つの変数が相関している場合、偽陽性が発生します。 PC アルゴリズムや FCI などの因果関係発見アルゴリズムを統合すると、公平性スコアによって相関関係と因果関係を区別できるようになり、誤検知率が減少します。
技術的な課題は、因果関係の発見には、保険データには当てはまらない可能性のあるデータ生成プロセスに関する仮定 (因果関係の十分性、忠実性など) が必要であることです。私たちは、相関分析を一次検出メカニズムとして使用し、因果分析をフラグ付き経路の二次検証として使用するハイブリッド アプローチを開発しています。これにより、因果関係の検出の高い感度が維持され、人間によるレビュー段階での誤検知を減らすために因果関係の推論が使用されます。
12.2 時間的公平性の監視
現在のフレームワークでは、ある時点での公平性が評価されます。実際には、母集団の変化、市場状況の進化、モデル予測によるフィードバック ループ (セクション 1.2 で説明した増幅効果) の形成に伴って、公平性スコアは変動します。私たちは、時間の経過とともに公平性スコアを追跡し、変化率が構成可能なしきい値を超えたときにアラートをトリガーする一時監視システムを開発しています。
時間監視システムは以下を計算します。
負の導関数は公平性の低下を示します。微分値が月あたり -0.01 を下回ると (公平性は月あたり 0.01 ずつ低下し、年あたり 0.12 の低下に達します)、モデルのレビューがトリガーされます。これは、決定ごとのゲートとは異なります。ゲートは個々の不公平な決定を検出しますが、時間モニターは体系的な公平性のドリフトを検出します。
12.3 セクション間の公平性
現在のフレームワークは、個々の保護された属性に関する公平性を独立して評価します。交差的公平性（複数の保護された属性（黒人女性、高齢の障害者など）の交差によって定義されるサブグループの公平性）は、より厳しい要件であり、私たちのフレームワークでは完全には対応していません。
相関行列アプローチを交差公平性まで拡張するには、保護された属性の決定項と相互作用項の間の相関を分析する必要があります。 m 個の保護属性の場合、ペアごとの交差の数は m(m-1)/2 であり、高次の交差は組み合わせ的に増加します。私たちは、交差分析を扱いやすくするために、次元削減技術 (保護された属性空間での PCA など) を検討しています。
12.4 製品間の公平性
自動車保険で高い公平性スコアを達成している保険会社であっても、自動車保険、住宅保険、生命保険商品の価格設定の総合効果が異なる影響を生み出す場合には、依然として差別を行う可能性があります。製品間の公平性分析は、製品ライン全体にわたる顧客の総経済的負担を評価し、単一製品内では目に見えない差別を検出します。
これには、MARIA OS 座標系が単一ゾーン (Z_auto) 内だけでなく、惑星内のゾーン全体 (P_pricing)、さらには惑星間でさえも公平性を評価する必要があります。階層的公平性スコアは次のようになります。
最小演算子は、製品間の公平性が最もパフォーマンスの悪い製品ラインによって推進されることを保証し、単一の製品に隠れる差別を防ぎます。
12.5 敵対的な堅牢性
洗練されたアクターは、相関行列が検出できないメカニズムを通じて差別的な結果を達成しながら、公平性ゲートを通過する価格設定モデルを設計する可能性があります。たとえば、個別には検出しきい値を下回るが、集合的に大きな不均衡を生み出す多くの弱い代理経路に差別を分散させることによって行われます。
私たちは、公平性スコアを最小限に抑えながら差別を最大化するモデルの構築を試みる敵対的テスト プロトコルを開発しています。これらの敵対的モデルは、公平性ゲートをストレス テストし、検出の盲点を特定します。結果は、しきい値の調整と検出アルゴリズムの改善を通知します。
12.6 リアルタイム相関更新
現在のフレームワークでは、毎月更新される事前に計算された相関行列が使用されます。申請者の人口が移動すると（たとえば、新しい地理的領域への市場拡大により）、相関構造が変化します。ストリーミング アルゴリズム (オンライン共分散推定など) を使用したリアルタイムの相関更新により、毎月の更新サイクルを待たずに公平性ゲートが人口の変化に適応できるようになります。
13. 結論
この論文では、保険 AI システムにおける公平性を検出して強制するための包括的な数学的フレームワークを紹介しました。中心的な寄与は、相関行列ベースの公平性スコア、Fairness(f) = 1 - max_j |corr(protected_j, Decision)| であり、マルチホップ相関経路と非線形関係を通じてプロキシの区別を検出するために拡張されています。
主な結果は次のとおりです。
- 検出精度: 直接識別で 99.2%、代理識別で 94.7% で、人口統計的パリティ チェック (代理検出 12.1%) および均等化オッズ監査 (代理検出 28.4%) を大幅に上回っています。
- 計算効率: 完全な Shapley ベースの評価では決定ごとの 180 ミリ秒のオーバーヘッド、高スループット アプリケーション向けの 12 ミリ秒の高速モード
- 精度保持: モデル精度の 96.3% は、推奨される公平性しきい値のタウ = 0.85 で保持され、精度と公平性のトレードオフを特徴付ける明確なパレート フロンティアを備えています。
- 規制の連携: EU AI 法の要件および米国の州保険規制に直接マッピングし、管轄区域ごとにしきい値を構成可能
MARIA OS 責任ゲートとの統合により、公平性が定期的なコンプライアンス演習から継続的な強制メカニズムに変わります。すべての価格決定はリアルタイムで評価され、不公平な決定は顧客に届く前にブロックされ、監査証跡により規制検査の完全な追跡可能性が提供されます。
この研究の基本的な洞察は、保険 AI における公平性は二元的な性質ではなく、意思決定レベルで測定、監視、強制できる継続的なスコアであるということです。相関行列アプローチでは、単に結果 (異なるグループが異なる扱いを受けるかどうか) だけでなく、差別のメカニズム (保護された属性が直接および代理経路を通じて決定とどのように相関するか) を分析することにより、この測定を実用化します。
保険は、アルゴリズムによる差別のリスクが特に高い分野です。不当な価格設定は、弱い立場にある人々が不可欠な経済的保護へのアクセスを拒否し、歴史的不平等を増幅させるフィードバックループを生み出し、保険会社が重大な規制および法的責任にさらされる可能性があります。フェアネス ゲート フレームワークは、保険 AI システムがすべての顧客に公平にサービスを提供できるようにするための、数学的に根拠があり、運用上実践的で、規制に準拠したアプローチを提供します。
ゲートは人間の判断の必要性を排除するものではありません。人間の判断が必要な場所、つまりアルゴリズムの効率とアルゴリズムの識別の境界に正確に適用されることを保証します。これは MARIA OS の原則が実践されているものであり、より多くのガバナンスがより多くの自動化を可能にします。公平性の制約を厳密に適用することで、システムは、顧客が差別的な結果を受けないことを保証しながら、価格決定の大部分を自動化するという信頼を獲得します。
参考文献
- [1] Chouldechova、A. (2017)。 「影響の異なる公正な予測: 再犯予測手段におけるバイアスに関する研究」ビッグデータ、5(2)、153-163。不可能性定理を確立します。キャリブレーション、偽陽性率のバランス、および偽陰性率のバランスは、グループ間で同時に保持することはできません。
- [2] Kleinberg, J.、Mullainathan, S.、および Raghavan, M. (2016)。 「リスクスコアの公正な決定における固有のトレードオフ」 ITCS 2017。異なる基本レートを持つグループ間でキャリブレーション条件とバランス条件を同時に満たすことは不可能であることを正式に示します。
- [3] Hardt, M.、Price, E.、および Srebro, N. (2016)。 「教師あり学習における機会の平等」。 NeurIPS 2016。機械学習分類器の公平性基準として均等化されたオッズと機会の平等を導入します。
- [4] Dwork, C.、Hardt, M.、Pitassi, T.、Reingold, O.、および Zemel, R. (2012)。 「意識による公平性」。 ITCS 2012。タスク固有の類似性メトリックに関する分類器のリプシッツ条件として個別の公平性を導入します。
- [5] Kusner, M. J.、Loftus, J.、Russell, C.、および Silva, R. (2017)。 「反事実的公平性」。 NeurIPS 2017。構造因果モデルにおける反事実推論を通じて公平性を定義し、保護された属性に対する介入の下で決定が変更されないことを要求します。
- [6] Zhang, B. H.、Lemoine, B.、および Mitchell, M. (2018)。 「敵対的学習で望ましくないバイアスを軽減する」 AIES 2018。敵対的ネットワークを使用して、トレーニング中にモデル表現から保護された属性情報を削除します。
- [7] Szekely、G.J.、Rizzo、M.L.、および Bakirov、NK (2007)。 「距離の相関による依存性の測定とテスト」統計年報、35(6)、2769-2794。あらゆる形式の非線形関連を検出する依存性の尺度として距離相関を導入します。
- [8] 欧州議会。 （2024年）。 「規制 (EU) 2024/1689 — 人工知能法」欧州連合の公式ジャーナル。 EU における AI システムのための包括的な規制枠組み。リスクベースの分類と高リスク システムの要件が含まれています。
- [9] コロラド州総会。 （2021年）。 「SB21-169: 保険実務における不当な差別から消費者を守る。」保険会社に対し、不当な差別がないかアルゴリズムをテストし、結果を長官に報告することを義務付ける。
- [10] 全国保険委員協会。 （2024年）。 「モデル速報: 保険会社による人工知能システムの使用」。保険における AI のガバナンス、リスク管理、無差別要件に関するガイダンス。
- [11] Barocas, S. および Selbst, A. D. (2016)。 「ビッグデータのさまざまな影響」カリフォルニア法レビュー、104、671-732。アルゴリズムによる意思決定が、トレーニング データと代理変数を通じて歴史的差別をどのように再現および増幅できるかについての基礎的な分析。
- [12] Corbett-Davies, S. および Goel, S. (2018)。 「公平性の尺度と誤り: 公平な機械学習の批判的レビュー」公平性の定義、その関係、およびそれらを制約する不可能な結果を包括的にレビューします。
- [13] Frees, E.W.、Derrig, R.A.、および Meyers, G. (2014)。 「保険数理科学における予測モデリングの応用」。ケンブリッジ大学出版局。保険の価格設定と予約に使用される統計モデリング手法の標準リファレンス。
- [14] MARIA OS 技術文書。 （2026年）。 Responsibility Gate Engine、Fairness Gate Framework、Decision Pipeline、および MARIA 座標システムの内部アーキテクチャ仕様。