1. はじめに
エージェント会社の意思決定層 (層 2) には、正確な予測と構造の解釈可能性という 2 つの異なる機能が必要です。このシリーズの前の論文では、エンタープライズ表形式データの予測精度に最適なアルゴリズムとして勾配ブースティングを確立しました。この論文は、ランダム フォレストが本質的な補完機能として機能し、勾配ブースティングでは匹敵できない構造的解釈可能性を提供すると主張しています。
この区別は基本的なものです。勾配ブースティングはツリーを順番に構築し、それぞれが先行するエラーを修正します。勾配ブースティング アンサンブル内の個々のツリーは、単独では解釈できません。これらは完全な決定関数ではなく、残差補正を表します。 500 ツリー XGBoost モデル内の 1 つのツリーは、意味のある分類ではなく、累積予測に対するわずかな調整を予測します。対照的に、ランダム フォレストはツリーを独立して構築します。ランダム フォレスト内の各ツリーは、データのブートストラップ サンプルでトレーニングされた完全な決定関数です。個々のツリーは解釈可能です。これらは、人間のレビュー担当者が根から葉まで追跡できる妥当な決定ロジックを表します。
この解釈可能性は単に学術上の便宜的なものではありません。エンタープライズ AI ガバナンスでは、意思決定ロジックを抽出、視覚化、監査する機能が規制上および運用上の要件となります。欧州 AI 法は、高リスク AI システムが意思決定プロセスについて有意義な説明を提供することを義務付けています。 MARIA OS ガバナンス フレームワークでは、自動化されたすべての決定が解釈可能なポリシーまで追跡できることが必要です。ランダム フォレストは、構築によってこの追跡可能性を提供します。アンサンブル構造自体が、妥当なガバナンス ポリシーの空間をコード化します。
1.1 インテリジェンス スタックのランダム フォレスト
4 層のインテリジェンス スタック内で、ランダム フォレストはレイヤー 2 内の特定のニッチを占めます。勾配ブースティングは、主要な予測モデル、つまりゲートの決定とリスク評価を推進するモデルを提供します。ランダム フォレストは、解釈モデル、つまり意思決定が行われる理由を説明し、重要な変数を特定し、人間が判読できるポリシー表現を生成するモデルを提供します。 2 つのモデルは並行して動作し、勾配ブースティングによって精度が最適化され、ランダム フォレストによって解釈可能性が最適化されます。
1.2 貢献
この論文は 4 つの寄稿を行っています。まず、ランダム フォレストをエンタープライズ ガバナンスの解釈可能性エンジンとして形式化し、フォレスト構造と組織の意思決定ロジックの間の数学的関係を定義します。 2 番目に、エンタープライズ機能ランキングにおける順列の重要性と不純物の重要性を厳密に比較し、各測定値が信頼できる条件を証明します。 3 番目に、ポリシー ツリー抽出を導入します。これは、アンサンブルを人間による監査に十分な大きさに保ちながら、アンサンブルの動作を近似する単一の解釈可能な決定ツリーに抽出する方法です。 4 番目に、エンタープライズ モデルの評価に out-of-bag エラー推定を適用することを実証し、OOB 推定に偏りがないことを証明し、その分散をフォレスト サイズとブートストラップ比の関数として導き出します。
2. ランダムフォレストの数学的基礎
ランダム フォレストは B 個のデシジョン ツリーのアンサンブルであり、それぞれが各分割でランダムな特徴のサブサンプリングを使用してトレーニング データのブートストラップ サンプルでトレーニングされます。アンサンブル予測は、個々のツリー予測の平均 (回帰) または多数決 (分類) です。
2.1 バギングとブートストラップ集約
トレーニング データ D = {(x_i, y_i)}_{i=1}^n が与えられると、b 番目のツリーは、D から置換を使用して n 個のインスタンスをサンプリングすることによって抽出されたブートストラップ サンプル D_b でトレーニングされます。平均して、各ブートストラップ サンプルには一意のトレーニング インスタンスの約 63.2% が含まれており (1 - 1/e は約 0.632 であるため)、36.8% はそのツリーの Out-of-bag (OOB) インスタンスとして残ります。分類のためのアンサンブル予測は次のとおりです。
ここで、h_b は b 番目の決定木です。確率推定の場合、アンサンブルは、各クラスに投票する木の割合としてクラス確率推定を提供します。
2.2 ランダム特徴サブサンプリング
各ノード分割で、ランダム フォレストは (合計 d 個のフィーチャのうち) m 個のフィーチャのランダムなサブセットのみを分割変数の候補として考慮します。標準的な推奨事項は、分類の場合は m = sqrt(d)、回帰の場合は m = d/3 です。このサブサンプリングには 2 つの目的があります。1 つはツリー間の相関を低減する (アンサンブルの多様性を改善する) こと、もう 1 つは深いツリーが特徴空間のさまざまな領域を探索できるようにすることです。
企業の解釈可能性に関する重要な洞察は、すべてのツリーおよびすべてのノードにわたる分割変数として特徴が選択される頻度が、意思決定タスクにおけるその特徴の重要性を反映しているということです。ランダムなサブサンプリングにもかかわらず一貫して選択された特徴は、真に有益です。めったに選択されない機能は、有益ではないか、他の機能と重複しています。
2.3 アンサンブル平均による分散の削減
ランダム フォレスト予測の分散は、個々のツリーの分散とツリー予測間の相関関係に関連します。
ここで、sigma^2 は単一ツリー予測の分散、rho はツリー予測間の平均ペア相関です。ツリー B の数が増加すると、第 2 項はなくなり、アンサンブル分散は rho * sigma^2 によって制限されます。ランダム特徴サブサンプリング パラメーター m は rho を制御します。m が小さいほど相関は減少しますが、個々のツリーの分散は増加します。エンタープライズ ガバナンス アプリケーションの場合、m = sqrt(d) がアンサンブルの精度と個々のツリーの解釈可能性の間の最良のトレードオフを提供することがわかります。
3. ガバナンス変数の識別における機能の重要性
特徴重要度測定は、モデルの予測パフォーマンスに対する各変数の寄与を定量化します。エンタープライズ ガバナンスでは、機能の重要度には 2 つの目的があります。モデルが正しい変数 (ガバナンス ポリシーが関連性があると識別する変数) に依存していることを検証することと、意思決定の結果に大きな影響を与える、これまで文書化されていない変数を発見することです。
3.1 不純物ベースの重要性 (MDI)
不純物の平均減少 (MDI) は、すべてのツリーにわたる各フィーチャに起因する分割基準 (分類のジニ不純物、回帰の分散) の合計の減少を測定します。機能 j の MDI は次のとおりです。
ここで、T_b はツリー b の内部ノードのセット、デルタ I(t) はノード t における不純物の削減、v(t) はノード t における分割変数です。 MDI は計算が速く (ツリー構築の副産物です)、機能の重要度のランキングを提供します。ただし、MDI には高カーディナリティの特徴に対する既知のバイアスがあります。多くの固有の値を持つ特徴には、より多くの潜在的な分割ポイントがあるため、たとえその予測力が低カーディナリティの特徴よりも大きくない場合でも、不純物を削減する機会が多くなります。
3.2 順列重要度 (MDA)
精度の平均減少 (MDA)、または置換重要度は、単一のフィーチャの値がランダムに置換され、周辺分布を維持しながらフィーチャとターゲットの間の関連性が壊れた場合のモデル精度の低下を測定します。特徴 j の順列重要度は次のとおりです。
ここで、Err_OOB(b) はツリー b の OOB エラー、Err_OOB^{pi_j}(b) は特徴 j を並べ替えた後の OOB エラーです。順列の重要度は、特徴カーディナリティに関して不偏ですが、計算コストが高く (特徴ごとに B 個の追加予測が必要)、分散が MDI よりも高くなります。
3.3 エンタープライズガバナンス変数の比較
MARIA OS ガバナンス コーパスで MDI と MDA を比較します。このコーパスでは、ドメインの専門家が 89 の機能を承認予測の重要性によって独自にランク付けしています。 MDI はエキスパート ランキングとのスピアマン ランク相関 0.87 を達成し、MDA は 0.93 を達成します。 MDA の 6 パーセント ポイントの利点は、MDI が専門家の評価に比べて過大評価している 3 つの高カーディナリティ機能 (提案者 ID、決定タイプ コード、および MARIA 座標) によって促進されます。
ただし、MDA は、他の機能と強い相関がある機能を過小評価します。特徴 j が並べ替えられても、相関する特徴 j' がそのまま残っている場合、モデルは j' から予測力を部分的に回復することができ、MDA が j の重要性を過小評価する原因となります。これは、多くの特徴が同じ基礎データから派生する企業のコンテキストでは問題になります (たとえば、30 日、60 日、90 日にわたる提案者の承認率には相関関係があります)。
3.4 相関する特徴の条件付き重要性
相関問題に対処するために、相関する特徴の値に基づいて特徴 j を並べ替える条件付き並べ替え重要度を実装します。相関セット C_j を考慮した特徴 j の条件付き重要度は次のとおりです。
ここで、pi_{j|C_j} は、C_j 内の特徴の十分位値によって定義されるグループ内の特徴 j の順列を示します。これにより、相関関係が与えられた場合の j の条件付き分布が保存され、その相関関係がすでに提供しているものを超えて j の一意の寄与が分離されます。条件付き重要度は、専門家ランキングと 0.96 の順位相関を達成しており、3 つの尺度の中で最高です。
3.5 新しい変数の発見
ランダムフォレスト重要度分析は、既知の重要な変数を検証するだけでなく、これまで文書化されていなかったガバナンス変数を発見します。私たちの実験では、順列重要度により、組織の文書化されたガバナンス ポリシーには含まれていない、重要な重要性 (MDA > 0.01) を持つ 7 つの変数が特定されました。これらには、提出の時間帯 (業務終了間際に提出された決定事項はレビュー時間が短縮されます)、クロスゾーン提案の頻度 (複数のゾーンに提出するエージェントは拒否率が高くなります)、および承認チェーンの長さ (チェーンが長いほど、逆説的に承認確率が高くなります。おそらく、より綿密な準備が行われていることを示すためです)。
4. 解釈可能なポリシーツリーの抽出
B=500 ツリー、深さ D=20 のランダム フォレストは非常に正確ですが、人間による監査には非現実的です。ガバナンス担当者は、数百万のリーフ ノードを持つ 500 のツリーをレビューできません。私たちはポリシー ツリー抽出でこれに対処します。つまり、アンサンブルの意思決定ロジックを単一のコンパクトな意思決定ツリーに抽出します。この意思決定ツリーは、人間によるレビューに十分な大きさを保ちながら、フォレストの動作を近似します。
4.1 ボーン・アゲイン・ツリー法
Born-again ツリー法 (Breiman and Shang、1996; Vidal et al.、2020) は、元のラベルではなくターゲット変数としてランダム フォレストの予測を使用して単一の決定木をトレーニングします。このアプローチは、アンサンブルの汎化能力をコンパクトな表現に移します。 F_RF(x) をランダム フォレストの予測とします。生まれ変わった木 T* は以下を解くことによって得られます。
ここで、T_D は、最大深さ D (人間が解釈できるように通常は D=5) を持つ決定木のセットです。制約 D <= 5 は、ツリーを最大 32 個のリーフ ノードに制限し、それぞれが決定ルールとして解釈できます。 Born-Again ツリーは、ガバナンス監査に十分なコンパクトさを保ちながら、ランダム フォレストの約 95% の精度を達成します。
4.2 ルールの抽出とポリシーのマッピング
生まれ変わったツリーのルートからリーフまでの各パスは、決定ルール、つまり特定の予測につながる特徴に関する条件の組み合わせを表します。たとえば、パスは「IF Financial_amount > $500K AND Risk_score > 0.7 AND Proposer_approval_rate < 0.8 THEN Escalate to Senior Reviewer」をエンコードできます。すべてのパスを抽出し、ガバナンス ポリシー ステートメントとしてフォーマットします。
抽出されたポリシーは、組織の文書化されたガバナンス マニュアルと比較されます。文書化されたポリシーごとに、抽出されたツリー内で一致するパスを検索します。ツリー パスの条件が文書化されたポリシーの条件のスーパーセットであり、予測が一致する場合、一致が記録されます。 MARIA OS ガバナンス コーパス全体で、文書化されたポリシーの 89% が生まれ変わったツリーに一致するパスを持っており、ランダム フォレストが組織のガバナンス ロジックを学習していることを示しています。
4.3 ポリシーギャップの検出
抽出されたツリーと一致しない文書化されたポリシーの 11% は、モデルがさまざまな変数で近似することを学習したポリシー (ポリシーは条件として部門を指定しますが、モデルは相関関係にある Planet ID を使用します)、およびデータがサポートしていないポリシー (ポリシーは文書には存在しますが、実際には一貫して適用されていません) の 2 つのカテゴリに分類されます。 2 番目のカテゴリは特に価値があります。これは、明示されたガバナンスと実践されたガバナンスのギャップを特定し、MARIA OS 価値スキャン エンジンを直接サポートします。
4.4 組織の意思決定ツリーの視覚化
抽出されたポリシー ツリーは、組織の意思決定フローとして視覚化できます。各内部ノードはガバナンス チェックポイントを表し、各リーフは性質を表します。 MARIA OS ダッシュボード パネル システムを使用してツリーをレンダリングします。ノードは担当組織単位 (MARIA OS 座標に基づく) によって色付けされ、エッジにはフィーチャ条件のラベルが付けられます。この視覚化により、ガバナンス担当者は、ポリシーマニュアルに文書化されたものではなくデータから学習した、組織の実際の意思決定ロジックを一目で理解できるようになります。
5. エンタープライズモデル評価のためのアウトオブバッグエラー推定
エンタープライズ AI の導入では、標準的なトレーニング/検証/テストの分割が現実的ではなくなるデータ制約に直面することがよくあります。小規模企業では過去の意思決定レコードが 5,000 件しかない可能性があり、検証用に 20%、テスト用に 20% を確保すると、トレーニング用に 3,000 件しか残らないため、モデルの品質が低下する可能性があります。ランダム フォレストは、アウトオブバッグ (OOB) エラー推定を通じて洗練されたソリューションを提供します。
5.1 OOB エラーの定義
各トレーニング インスタンス (x_i、y_i) について、フォレスト内の木の約 36.8% がブートストラップ サンプルにこのインスタンスを含んでいませんでした。これらは、たとえば i のような out-of-bag ツリーです。インスタンス i の OOB 予測は、OOB ツリーのみの集約予測です。
OOB 誤差は、すべての OOB 予測に対して計算された分類誤差です。
5.2 公平性と一貫性
OOB 誤差は、汎化誤差のほぼ不偏推定値です。重要な洞察は、各インスタンスについて、OOB 予測ではトレーニング中にそのインスタンスを認識しなかったツリーのみが使用され、OOB 評価が相互検証と同等になるということです。具体的には、OOB エラーは、アンサンブル サイズ B >= 100 の Leave-One-Out 相互検証に近似します。
定理 (OOB の不偏性)。 ブートストラップ サンプリングを使用して n 個のインスタンスでトレーニングされた B ツリーを含むランダム フォレストの場合、予想される OOB エラーは次の条件を満たします。
ここで、Err_gen は真の一般化誤差です。 O(1/B) 項はツリーの数が増加するにつれて消滅し、O(1/n) 項はトレーニング セットが増加するにつれて消滅します。 B >= 500 および n >= 5000 の実際の企業展開では、偏りは無視できます (0.1% 未満)。
5.3 OOB 推定値の分散
OOB エラー推定の分散は、インスタンスごとの OOB ツリーの有効数と、OOB 予測間の相関関係に依存します。以下を導き出します。
ここで、p は真の誤り率、rho_OOB は OOB ツリー予測間の平均相関、sigma_tree^2 は単一ツリーの予測の分散、B_eff = B * (1 - 1/e) はインスタンスごとの有効な OOB ツリー数です。 B=500 ツリーの場合、B_eff は約 184 で、MARIA OS ガバナンス コーパスの真のテスト誤差の 0.8% 以内の OOB 誤差分散が得られます。
5.4 OOB 推定による企業の利点
OOB 推定は、企業の導入に 3 つの実際的な利点をもたらします。まず、別個の検証セットの必要性がなくなり、信頼できる誤差推定値を取得しながら、利用可能なすべてのデータをトレーニングに使用できるようになります。次に、継続的なモデル評価が可能になります。新しいデシジョン レコードが追加され、(新しいデータでトレーニングされた新しいツリーを追加することによって) フォレストが更新されると、OOB エラーはモデルの現在のパフォーマンスを自動的に反映します。 3 番目に、検証セットにオーバーフィットすることなくハイパーパラメータ調整をサポートします。ハイパーパラメータは、一般化誤差の不偏推定値である OOB 誤差を最小限に抑えるように選択されます。
6. ツリートポロジーによる組織構造の可視化
ランダム フォレスト ツリーは、分岐構造に組織の意思決定ロジックをエンコードします。アンサンブルのトポロジー (どの特徴がルート付近に現れるか、ツリーが特徴空間をどのように分割するか、どの特徴が意思決定パスで共起するか) を分析することで、組織の実際の意思決定階層を視覚的に表現することができます。
6.1 分割深さの分析
特徴が分割変数として最初に現れる深さは、意思決定階層におけるその特徴の優先度を反映します。ルート付近で分割された機能は主要な決定基準、つまり提案を評価するときに組織が暗黙的に尋ねる最初の質問です。ツリーの奥深くで分割されたフィーチャは、類似した提案を区別するための絞り込み基準です。
フォレスト内のすべてのツリーにわたる各フィーチャの平均分割深度を計算します。
ここで、S_j は (ツリー、ノード) ペアのセットで、特徴 j は分割変数です。 MARIA OS ガバナンス コーパスでは、分割の深さ (ルートに最も近い) による上位 3 つの特徴は、財務額 (平均深さ 1.3)、意思決定タイプ (平均深さ 1.8)、およびリスク スコア (平均深さ 2.4) です。これは、組織の主な意思決定ロジックが次のとおりであることを明らかにしています。まず、財務規模を評価します。次に、意思決定カテゴリーを特定します。第三に、リスクレベルを評価します。この階層は文書化されたガバナンス ポリシーと一致していますが、完全にデータから派生しています。
6.2 意思決定経路における特徴の共起
同じルートからリーフへのパスで頻繁に同時に発生する 2 つの特徴が、同じ決定ロジックに関与しています。共起行列を計算します。
ここで、L_b はツリー b の葉のセット、path(l) はルートから葉 l までのパス上の分割変数のセットです。共起率が高いということは、意思決定において 2 つの特徴が一緒に考慮されていることを示します。共起行列をヒート マップとして視覚化し、一貫した意思決定モジュールを形成する特徴のクラスターを明らかにします。たとえば、財務機能 (金額、予算残存、ROI) はクラスター化され、ガバナンス機能 (承認率、コンプライアンス フラグ、リスク スコア) はクラスター化され、運用機能 (タイムライン、リソースの可用性、依存関係) はクラスター化されます。これらのクラスターは、意思決定の各側面の評価を担当する組織単位に対応します。
6.3 組織マップとしてのツリー構造
分割深度分析と特徴の共起を組み合わせることで、組織の意思決定マップ、つまりノードが特徴クラスター (決定次元) を表し、エッジが典型的な評価順序を表す有向グラフを構築します。マップは MARIA OS 座標階層に重ねられ、どの組織単位がどの意思決定ディメンションの評価を担当しているかを示します。この視覚化により、ガバナンス担当者は、組織の意思決定ルールが何であるかだけでなく、組織の構造が意思決定プロセスをどのように形成しているかを理解できるようになります。
7. ガバナンスポリシー抽出のためのランダムフォレスト
視覚化を超えて、ランダム フォレストは意思決定データからガバナンス ポリシーを直接抽出できます。ガバナンス ポリシーは、特定の意思決定の結果が適切となる条件を指定するルールです。ランダム フォレスト ツリーは、これらのルールをルートからリーフへのパスとしてエンコードし、アンサンブルの投票パターンにより、どのルールが最も堅牢であるかが明らかになります。
7.1 コンセンサスルール
コンセンサス ルールは、森林内の大部分の木に (わずかな違いはありますが) 現れる根から葉へのパスです。正確なしきい値を無視して、ルール テンプレートを (特徴、しきい値の方向) ペアのセットとして定義します。 2 つのパスは、同じしきい値方向で同じ機能を使用する場合、テンプレートと一致します。ルールのテンプレートがツリーの 50% を超えて出現する場合、そのルールはコンセンサス ルールです。
コンセンサス ルールは、データ内の最も堅牢な意思決定ロジック、つまりブートストラップ サンプリングの変動に関係なく一貫して学習されるパターンを表します。 MARIA OS コーパスでは、23 個のコンセンサス ルールが特定され、そのうち 20 個は文書化されたガバナンス ポリシーと一致し、そのうち 3 個は文書化されていないが一貫して実践されている意思決定パターンを表しています。
7.2 マイノリティルールとエッジケース
ツリーの 10% 未満に出現するルールは、エッジ ケース、つまりまれな機能の組み合わせによって引き起こされる異常な意思決定パターンを表します。これらの少数派ルールは、実践されているが文書化されていない標準ポリシーの例外を示したり、異なる審査者が異なる基準を適用する意思決定の不一致を示したりする可能性があるため、ガバナンス監査にとって貴重です。
少数派のルールを抽出し、それらを正当な例外 (ルールがサポート セットで正しい予測を生成する) または不一致 (ルールが混合予測を生成し、基になるデータに同様の状況に対して矛盾する決定が含まれていることを示唆する) のいずれかに分類します。 MARIA OS 価値スキャン エンジンは、不整合の検出により、組織が掲げた価値観と実践された行動が異なるガバナンス ギャップを特定できます。
7.3 ポリシードリフトの検出
意思決定データの連続した時間枠でランダム フォレストをトレーニングすることにより、ポリシー ドリフト、つまり組織の意思決定ロジックの時間の経過に伴う変化を検出できます。時間ウィンドウごとにコンセンサス ルールを抽出し、前のウィンドウのルールと比較します。新しいルールは新たな意思決定パターンを示し、消滅したルールは放棄された慣行を示し、変更されたルール (同じ機能だがしきい値が変更されたもの) は段階的なポリシーの進化を示します。
ポリシー ドリフト検出は、最新 90 日間の意思決定データに基づいて新しいランダム フォレストをトレーニングし、抽出されたルールを確立されたベースラインと比較する、MARIA OS のスケジュールされたジョブとして実装されます。重大なドリフトが発生すると、ガバナンス担当者にアラートが発せられ、ガバナンス担当者はそのドリフトが意図的なポリシー変更を反映しているのか、それとも意図しない慣行からの逸脱を反映しているのかを調査できます。
8. MARIA OS 証拠層の統合
ランダム フォレストは MARIA OS 証拠レイヤーと統合して、データ駆動型のガバナンスに関する洞察を提供します。証拠レイヤーは、パイプラインでの意思決定をサポートする証拠バンドルを収集、分類、評価します。ランダム フォレストは、証拠の質を定量化し、証拠の十分性を予測し、証拠のギャップを特定することにより、このレイヤーを強化します。
8.1 証拠の品質スコアリング
意思決定の証拠バンドル内の各証拠項目は、過去の証拠と結果のペアでトレーニングされたランダム フォレスト モデルを使用して品質がスコアリングされます。品質スコアは、意思決定結果に対する証拠の予測値を反映します。
この差は、ランダム フォレスト内のバイナリ特徴 (存在または不在) として各証拠アイテムが扱われる、証拠特徴の順列重要度を使用して推定されます。高品質の証拠アイテムとは、その存在によって予測される成功の確率が大幅に高まるアイテムです。
8.2 証拠十分性の予測
決定が承認ゲートに進む前に、ランダム フォレストは証拠バンドルが十分であるかどうかを評価します。証拠の十分性は、現在の証拠が与えられた場合に、設定可能なしきい値と比較して決定が成功する確率として定義されます。
証拠が不十分な場合、モデルは、各候補証拠タイプが追加された場合に期待される成功確率を計算することにより、最も影響力のある欠落している証拠を特定します。上位 k 個の候補証拠タイプが意思決定提案者に推奨され、積極的な証拠収集が可能になります。
8.3 証拠と結果のフィードバック ループ
ランダム フォレスト モデルは、完了した意思決定の結果で継続的に更新され、証拠の収集と意思決定の成功の間にフィードバック ループが作成されます。時間の経過とともに、モデルは、意思決定の種類、組織の状況、リスク レベルごとに、どの種類の証拠が成功を最も予測するかを学習します。この学習は、証拠準備ガイドラインとして意思決定提案者に提示されます。提案者は、意思決定提案を提出する前に、特定の意思決定の状況にとってどの証拠が最も重要であるかについてのランダム フォレストの分析に基づいて、推奨される証拠項目の個人用チェックリストを受け取ります。
9. 勾配ブースティングとの相補的関係
ランダム フォレストと勾配ブースティングは、ディシジョン レイヤー内で競合するものではありません。これらは、異なる機能を果たす補完的なものです。このセクションでは、それらの補完関係を形式化し、各アルゴリズムがどのような場合に優先されるべきかを定義します。
9.1 予測と解釈のトレードオフ
MARIA OS ベンチマークでは、勾配ブースティング (XGBoost) は承認予測精度が 91.3% であるのに対し、ランダム フォレストでは 88.7% で、2.6% の利点があります。ただし、ランダム フォレストは、正確な順列重要度、生まれ変わった木の抽出、OOB エラー推定、つまり勾配ブースティングでは匹敵できない解釈可能性の機能を提供します。勾配ブースティング モデルは、精度が最も重要なゲート決定に使用され、ランダム フォレスト モデルは、解釈可能性が最も重要なガバナンス分析に使用されます。
9.2 アンサンブルの多様性
勾配ブースティングとランダム フォレストの両方を使用すると、どちらか単独では達成できないアンサンブルの多様性が得られます。 2 つのモデルは構築方法が異なるため、異なるエラーが発生します。勾配ブースティングは最近の修正に偏っています (後のツリーは厳密な例に焦点を当てています)。一方、ランダム フォレストには偏りはありません (各ツリーは決定関数の独立したサンプルです)。誤差が部分的に相関していないため、2 つのモデルの予測の単純平均は 92.1% の精度を達成し、どちらか単独よりも優れています。
9.3 MARIA OS のデュアルモデル アーキテクチャ
MARIA OS デシジョン レイヤーは、勾配ブースティング モデルとランダム フォレスト モデルの両方が同じデータでトレーニングされ、並行してデプロイされるデュアルモデル アーキテクチャを実装しています。勾配ブースティング モデルはゲートの決定 (承認、エスカレーション、または標準レビュー) を推進し、ランダム フォレスト モデルは説明 (機能の重要性、ポリシー ツリー、証拠の十分性) を提供します。 2 つのモデルの予測は一貫性チェックとしても比較されます。モデルが一致しない場合 (勾配ブースティング予測は承認、ランダム フォレスト予測は拒否)、個々のモデルの信頼度に関係なく、決定は人間によるレビューのために自動的にエスカレーションされます。
10. 実験による評価
10.1 セットアップ
MARIA OS Enterprise Decision Benchmark (500K レコード、89 個の特徴、時間分割) でランダム フォレストを評価します。ランダム フォレストは、B=500 ツリー、分割ごとに m=sqrt(89)=9 フィーチャ、深さの最大制限なし (ツリーは純粋な葉または葉ごとに最低 5 つのサンプルになるまで成長します)、およびクラス重み付けなしで構成されます。 XGBoost (主な代替手段として) と単一のデシジョン ツリー (解釈可能性のベースラインとして) を比較します。
10.2 予測パフォーマンス
| Metric | Random Forest | XGBoost | Single Tree (D=5) | Single Tree (D=20) |
|---|---|---|---|---|
| Approval Accuracy | 88.7% | 91.3% | 78.4% | 84.1% |
| Risk AUC | 0.91 | 0.94 | 0.77 | 0.85 |
| Success RMSE | 0.098 | 0.087 | 0.142 | 0.118 |
| OOB Error Estimate | 11.4% | N/A | N/A | N/A |
| True Test Error | 11.3% | 8.7% | 21.6% | 15.9% |
ランダム フォレストは XGBoost よりも 2 ～ 3% 精度が劣りますが、単一デシジョン ツリーよりは大幅に精度が高くなります。 OOB 誤差推定値 (11.4%) は、実際のテスト誤差 (11.3%) の 0.1% 以内であり、OOB 不偏性の理論的分析が裏付けられています。
10.3 解釈可能性の評価
| Metric | Random Forest | XGBoost + SHAP | Single Tree |
|---|---|---|---|
| Expert Rank Correlation (MDA) | 0.93 | 0.89 (SHAP) | 0.71 (MDI) |
| Policy Match Rate | 89% | N/A | 67% |
| Novel Variable Discovery | 7 variables | 4 variables | 1 variable |
| Audit Readability (1-5 scale) | 4.2 | 3.1 | 4.7 |
ランダム フォレストは、特徴重要度の精度 (0.93 エキスパート ランク相関) とポリシー抽出品質 (89% の一致率) の最適なバランスを実現します。 SHAP を使用した XGBoost は機能を提供しますが、ポリシー ツリーを抽出できません。単一デシジョン ツリーは最も読みやすいですが、特徴の重要性とポリシーの抽出の精度は最も低くなります。
10.4 ポリシーツリーの品質
ランダム フォレストから抽出された生まれ変わったツリー (深さ 5) は、94.7% の忠実度 (テスト セット上の完全なフォレストとの一致率) でアンサンブルの意思決定ロジックをキャプチャします。フォレスト全体から抽出された 23 のコンセンサス ルールは、すべてのテスト決定の 76% をカバーし、残りの 24% は非コンセンサス パスによって処理されます。順列の重要性によって発見された 7 つの新しい変数は、文書化されたガバナンス ポリシーでは見落とされていた真に影響力のある要因として、ドメインの専門家によって検証されました。
11. 関連作品
Breiman (2001) はランダム フォレストを導入し、一貫性や OOB エラー推定などの理論的特性を確立しました。シュトロブルら。 (2007) 相関特徴に対する不純物ベースの重要度の偏りを特定し、条件付き置換重要度を提案しました。ビダルら。 (2020) アンサンブルを解釈可能なモデルに蒸留するための生まれ変わったツリー抽出手法を開発しました。
エンタープライズ AI ガバナンスの分野では、Rudin (2019) は事後説明ではなく本質的に解釈可能なモデルを主張し、予測のための勾配ブースティングと並行して (代わりにではなく) 解釈可能エンジンとしてランダム フォレストを使用することを奨励しました。モルナーら。 (2020) はモデルに依存しない解釈可能性手法の実践的なガイドラインを提供しました。 (2019) は、機械学習における解釈可能性の定義と評価を調査しました。
組織的意思決定分析へのランダム フォレストの適用は、この研究にとって新しいものです。これまでの研究では、ランダム フォレストを財務リスクのスコアリング (Alam et al., 2020) や信用承認 (Lessmann et al., 2015) に適用していましたが、これらのアプリケーションは、ガバナンス ポリシーの抽出や組織構造の可視化ではなく、予測の精度に焦点を当てていました。
12. 結論
この論文では、エージェントの企業インテリジェンス スタックにおける意思決定層の解釈可能性エンジンとしてランダム フォレストを確立しました。勾配ブースティングは優れた予測精度を提供しますが、ランダム フォレストは不可欠な解釈可能機能を提供します。つまり、順列分析による正確な特徴の重要性、ボーンアゲイン ツリーの蒸留によるガバナンス ポリシーの抽出、バッグ外エラー推定による信頼性の高いモデル評価です。
実験結果は、ランダム フォレスト機能の重要度がドメイン エキスパート変数ランキングと 0.93 の順位相関を達成しており、評価されたすべての手法の中で最高であること、および抽出されたポリシー ツリーが文書化されたガバナンス ポリシーの 89% と一致することを示しています。おそらく最も重要なことは、順列重要度分析により、これまで文書化されていなかった 7 つのガバナンス変数が発見され、ランダム フォレストによって、ドメインの専門家ですら見落としていた組織の意思決定パターンが明らかになる可能性があることが実証されたことです。
MARIA OS 内のデュアルモデル アーキテクチャ (予測には勾配ブースティング、解釈にはランダム フォレスト) は、エンタープライズ AI ガバナンスには精度と透明性の両方が必要であるという原則を具体化しています。どちらの機能だけでも十分ではありません。説明のない正確な予測は監査できません。正確性のない説明は信頼できません。勾配ブースティングとランダム フォレストは共に、パフォーマンスと解釈可能な意思決定層を形成し、MARIA OS が企業の運用に必要なガバナンスの透明性を維持しながら、大規模な意思決定を自動化できるようにします。
今後の作業では、ランダム フォレストの解釈可能性フレームワークを 3 つの方向に拡張する予定です。 1 つ目は、時間の経過に伴う意思決定の進化を明示的にモデル化し、現在の意思決定ロジックだけでなくガバナンス変化の軌跡を捉える時間的ランダム フォレストです。 2 つ目は、因果推論を組み込んで、意思決定の結果を引き起こす変数と単に相関する変数を区別する因果ランダム フォレストです。 3 番目は、ギャラクシー間で独自の決定データを共有することなく、マルチテナントの MARIA OS 導入全体でポリシー抽出を可能にするフェデレーテッド ランダム フォレストです。