1. はじめに: なぜロボットには判定 OS ラボが必要なのか
デジタル的な自律性と物理的な自律性の間の境界は崩壊しました。倉庫ロボットは 400 キログラムのパレットを毎秒 2 メートルの速度で移動します。外科用ロボットは、ミリメートル未満の精度で組織を操作します。配送ドローンは歩行者、自転車、子供たちと並んで都市の峡谷を移動します。農業ロボットは食用作物から数センチメートル単位で化学物質を散布します。どのシナリオでも、ロボットは 1 秒あたり何百もの意思決定を行い、それぞれの意思決定にはデータベースのロールバックでは取り消すことができない物理的な影響が伴います。
Yet the governance of these physical-world autonomous systems remains alarmingly primitive. Most robotic systems use a binary safety layer — a hard-coded emergency stop — and delegate all judgment to a monolithic planner that optimizes a single objective function. There is no multi-dimensional evaluation, no structured conflict resolution, no formal responsibility allocation, and no mechanism for detecting ethical drift in learned behaviors.
The MARIA OS Multi-Universe framework provides the theoretical foundation for multi-dimensional agent governance: every action candidate is evaluated across parallel universes (Safety, Regulatory, Efficiency, Ethics, and more), with fail-closed gates that block execution when any universe score falls below threshold. However, extending this framework from digital agents to physical robots requires solving five research problems that no existing lab has addressed systematically:
Problem 1: Real-Time Multi-Universe Evaluation. Digital gates can afford 300-millisecond evaluation times. Physical gates must complete within the robot's control loop period — typically 1-10 milliseconds — because the worst case is a collision, not a delayed API call.
問題 2: センサーのノイズと不完全な観測。 デジタル エージェントはクリーンな構造化データを操作します。物理ロボットは、ノイズのあるセンサー ストリーム、つまりオクルージョンのある LiDAR 点群、モーション ブラーのあるカメラ画像、振動によって破損した力とトルクの信号で動作します。ゲート評価は観測の不確実性に対して堅牢でなければなりません。
問題 3: 身体化された倫理的漂流 経験から学習するロボットは、徐々に倫理的制約から逸脱する可能性があります。定められた制約と実践された行動との間のギャップ、つまり倫理的ずれは、個別のルール違反のみをチェックする従来の監視システムでは検出できません。
問題 4: 物理的行為に対する責任の配分 ロボットがコンポーネントの故障ではなく判断ミスにより安全範囲内で危害を引き起こした場合、既存の安全基準には責任を決定するための枠組みがありません。物理世界の責任には、人間、ロボット、システム、環境という 4 つの要素が関与しており、デジタル責任モデルでは把握できない形で相互作用します。
Problem 5: ROS2 Integration. The Robot Operating System 2 (ROS2) is the dominant middleware for robotic systems. Any governance architecture that requires modifying the ROS2 node interface will not be adopted. The integration must be zero-intrusion — layered on top of existing ROS2 infrastructure without changing a single line of existing robot code.
1.1 The Lab Approach
This paper does not present a finished robot governance system. It presents something more fundamental: the R&D team design for building one. We define two lab divisions with complementary missions, specify agent-human team compositions with explicit responsibility allocations, formalize the five research themes with mathematical precision, and provide concrete experimental protocols.
ラボの設計は MARIA OS の自己参照原則に従っています。つまり、研究チーム自体が、開発したフェールクローズド ゲート インフラストラクチャによって管理されます。研究成果は採用ゲートを通過する必要があります。実験は監査証跡のあるサンドボックスで実行されます。エージェントには、運用システムと同じ責任の割り当てが適用されます。
1.2 貢献
私たちの貢献は次のとおりです。
1. 2 部門のラボ アーキテクチャ (セクション 3): チーム R-A (ロボット ゲート アーキテクチャ ラボ) とチーム R-B (身体学習および競合ラボ) と、両部門にわたる 11 人の専門エージェント。 2. 形式化された 5 つの研究テーマ (セクション 4): 各テーマには、数学的モデル、エージェントの割り当て、および成功基準が含まれます。 3. ロボット ゲート エンジン (セクション 5): 形式的な遅延保証と最適なアクション選択式を備えたリアルタイム マルチユニバース評価 $a^ = \arg\max_a E[U_{\text{eff}}(a)] \text{ s.t. } \min_i U_i(a) \geq \tau$。 4. リアルタイム競合ヒートマップ (セクション 6): 物理世界のトレードオフ視覚化のための連続競合スコア関数 $CS(t) = \sum_{i<j} w_{ij} \cdot |U_i(a,t) - U_j(a,t)|$。 5. 身体化された倫理校正モデル (セクション 7): 学習されたロボット ポリシーの倫理的ずれを検出および修正するための制約付き RL フレームワーク。 6. 人間とロボットResponsibility Protocol (Section 8): Four-factor decomposition $R(d) = [\rho_H(d), \rho_R(d), \rho_S(d), \rho_E(d)]$ where $\sum = 1$. 7. Layered Robot Judgment Architecture* (Section 9): ROS2 base, Multi-Universe Layer, Gate Layer, Conflict Layer — with zero modification to existing ROS2 node interfaces.
1.3 Paper Structure
セクション 2 では、物理世界の多宇宙制御パラダイムを確立します。セクション 3 では、2 つの部門からなるラボのアーキテクチャを示します。セクション 4 では、5 つの研究テーマを形式化します。セクション 5 ～ 9 では、5 つの技術的貢献について説明します。セクション 10 では、共通の設計原則を示します。セクション 11 では実験計画と結果について説明します。セクション 12 ではリスクと緩和策について説明します。セクション 13 は終了です。付録では、座標の割り当て、データベース スキーマ、および表記法のリファレンスを提供します。
2. 物理世界・多宇宙制御
マルチユニバースパラダイムは、従来のロボットシステムが単一の目的関数に崩壊する評価次元を分離します。 $\text{safe}(a)$ に従って $\min_a \text{cost}(a)$ を最適化する代わりに、$N$ 個の並行世界全体ですべてのアクション候補を評価し、それぞれにしきい値制約を適用します。
ここで、$U_i(a)$ はユニバース $i$ によって割り当てられたスコア、$\tau_i$ はそのユニバースの許容可能な最小しきい値です。
2.1 ロボット工学の 5 つの評価世界
私たちは、物理世界のロボット ガバナンスの重要な側面をカバーする 5 つの評価領域を定義します。
| Universe | Symbol | Scope | Example Threshold |
| --- | --- | --- | --- |
|安全性 | $U_S$ |身体的危害の防止、衝突回避、力の制限 | $\tau_S = 0.95$ |
|規制 | $U_R$ | IEC 61508、ISO 13482、現地規制への準拠 | $\tau_R = 0.90$ |
| Efficiency | $U_E$ | Task completion speed, energy usage, path optimality | $\tau_E = 0.60$ |
| Ethics | $U_{\eta}$ | Embodied ethical constraints, fairness, non-deception | $\tau_{\eta} = 0.85$ |
| Human Comfort | $U_H$ | Noise levels, predictability, personal space, trust | $\tau_H = 0.75$ |
Critical asymmetry: Safety and Regulatory universes have near-unity thresholds because violations are irreversible. Efficiency has a low threshold because sub-optimal efficiency is acceptable — a robot that takes a longer path is safe; a robot that takes a shorter path through a human workspace may not be.
2.2 リアルタイム制約: 10ms バジェット
Physical robot control loops operate at 100Hz-1kHz. A 100Hz control loop has a 10ms budget per cycle. Within this budget, the robot must:
1. センサーデータの読み取り (~1ms) 2. アクション候補の計算 (~2ms) 3. すべてのユニバースを並行して評価します (~3ms) 4. スコアを集計し、ゲートを適用します (~1ms) 5. 実行または停止 (~1ms) 6. 決定記録をログに記録 (~2ms、非同期)
The universe evaluation step (step 3) is the critical path. Each universe evaluator must complete within 3ms with guaranteed worst-case execution time (WCET). This rules out neural network evaluators with unbounded inference time and requires pre-compiled evaluation kernels with deterministic execution bounds.
2.3 センサーノイズモデル
物理世界の観測はノイズによって損なわれます。観察された状態を次のようにモデル化します。
ここで、$s_t$ は真の状態、$\Sigma_t$ は時変ノイズ共分散行列です。ユニバース評価者は、このノイズに対して堅牢なスコアを生成する必要があります。具体的には、ノイズのある観測値を考慮した場合、真のスコアがしきい値を超える確率が信頼水準を超える必要があります。
ここで、$\alpha_i$ は、ユニバース $i$ の許容可能な誤検知率です。安全性ユニバースの場合、$\alpha_S = 10^{-6}$ であり、SIL-3 要件と一致します。
2.4 Fail-Closed Physical Gate
物理ゲートは、ハードウェア強制フォールバックによるフェールクローズ原則を実装します。
ここで、$m_i(\Sigma_t)$ は、現在のセンサーのノイズ レベルに依存するノイズ マージンです。ノイズが増加するとマージンが増加し、センサーが劣化した状態ではゲートがより保守的になります。いずれかの評価者が WCET 予算内で戻らない場合、ゲートはデフォルトで停止になります。これはフェールクローズのプロパティです。
3. ラボの構造: 2 つの部門
Robot Judgment OS Lab は、MARIA OS 座標系内の 2 つの補完的な部門で組織されています。
where $P_1$ is Team R-A (Robot Gate Architecture Lab) and $P_2$ is Team R-B (Embodied Learning & Conflict Lab).
3.1 チーム R-A: ロボット ゲート アーキテクチャ ラボ
ミッション: 物理世界のロボット システム用のリアルタイム マルチ ユニバース ゲート インフラストラクチャを設計、実装、検証します。
Coordinate: $G_1.U_{\text{RL}}.P_1$
チーム R-A は、ゲート エンジン、ユニバース エバリュエーター、レイテンシの保証、ROS2 統合など、ロボット判断の アーキテクチャ 側に焦点を当てています。その出力は、ロボットのアクションの評価、ゲート制御、およびログ記録に使用されるインフラストラクチャです。
Human Leads:
| Role | Responsibility | Coordinate |
| --- | --- | --- |
|ロボットアーキテクト |システム アーキテクチャ、ROS2 統合設計、レイテンシー バジェット割り当て | $G_1.U_{\text{RL}}.P_1.Z_1.H_1$ |
|安全技術者 | IEC 61508/ISO 13482 準拠、WCET 分析、ハードウェア フェールセーフ設計 | $G_1.U_{\text{RL}}.P_1.Z_1.H_2$ |
| Gate Engineer | Gate policy design, threshold calibration, fail-closed verification | $G_1.U_{\text{RL}}.P_1.Z_1.H_3$ |
エージェント チーム (6 人のエージェント):
|エージェント | ID |ゾーン |責任 |
| --- | --- | --- | --- |
|センサー解釈エージェント | RA-A1 | $Z_2$ |生のセンサー データを構造化された状態表現に処理します。 LiDAR、カメラ、IMU、および力/トルク入力を融合します。下流の評価者のノイズ共分散 $\Sigma_t$ を計算します。 |
| Safety Universe Agent | RA-A2 | $Z_2$ | Evaluates action candidates against the Safety universe ($U_S$). Computes collision probabilities, force limit compliance, and emergency stop distances. Must complete within 2ms WCET. |
| Regulatory Universe Agent | RA-A3 | $Z_2$ | Evaluates compliance with applicable standards (IEC 61508, ISO 13482, local regulations). Maintains a versioned regulatory knowledge base. Flags actions that fall in regulatory gray zones for human review. |
|効率化ユニバースエージェント | RA-A4 | $Z_3$ |パスの長さ、エネルギー消費量、サイクルタイムなど、タスクの効率を評価します。ゲート アーキテクチャが制約する最適化信号を提供します。安全性や規制スコアを無効にすることはありません。 |
|倫理宇宙エージェント | RA-A5 | $Z_3$ |具体化された倫理的制約、つまりサービス秩序の公平性、欺瞞のない行動、人間の尊厳の保持を評価します。 Team R-B の Embodied Simulation Agent からキャリブレーションの更新を受信します。 |
| Gate Verifier Agent | RA-A6 | $Z_4$ | Continuously verifies gate correctness: checks that fail-closed property holds, that thresholds are properly applied, that logging is complete, and that no gate bypass has occurred. Acts as the lab's internal auditor. |
3.2 Team R-B: Embodied Learning & Conflict Lab
Mission: Develop learning algorithms, conflict detection methods, and responsibility allocation frameworks for physical-world robot judgment.
座標: $G_1.U_{\text{RL}}.P_2$
チーム R-B は、ロボットの判断のインテリジェンス の側面、つまりゲートで囲まれたアクション空間内でロボットがより良い意思決定を行う方法を学習する方法、宇宙間の衝突をどのように検出して視覚化するか、人間とロボットのアクター間で責任をどのように割り当てるかに焦点を当てています。
Human Leads:
| Role | Responsibility | Coordinate |
| --- | --- | --- |
| RL Researcher | Constrained RL algorithm design, convergence proofs, reward shaping | $G_1.U_{\text{RL}}.P_2.Z_1.H_1$ |
|シミュレーションエンジニア |物理シミュレーション環境、デジタルツイン設計、シナリオ生成 | $G_1.U_{\text{RL}}.P_2.Z_1.H_2$ |
エージェント チーム (5 人のエージェント):
|エージェント | ID |ゾーン |責任 |
| --- | --- | --- | --- |
|身体化されたシミュレーションエージェント | RB-A1 | $Z_2$ |物理シミュレーション環境（Gazebo、Isaac Sim）を運営します。難易度を制御したトレーニング シナリオを生成します。オフライン評価用にシミュレートされたセンサー データを提供します。 |
|行動パターンエージェント | RB-A2 | $Z_2$ |ロボットの行動ログを解析し、意思決定パターンを抽出します。現在のアクションの分布をベースライン ポリシーと比較することで、動作のドリフトを検出します。倫理的ドリフトを監視するための KL ダイバージェンス メトリクスを計算します。 |
|競合検出エージェント | RB-A3 | $Z_3$ |すべてのユニバース ペアにわたってリアルタイムの ConflictScore $CS(t)$ を計算します。競合ヒートマップを生成します。ケースバイケースの解決ではなく、アーキテクチャ上の介入が必要な永続的な競合ゾーンを特定します。 |
| Constrained RL Agent | RB-A4 | $Z_3$ | Implements constrained RL training within safety-bounded action spaces. Ensures that policy updates never violate hard constraints. Computes policy gradients within the feasible region defined by universe thresholds. |
|ロールバック設計エージェント | RB-A5 | $Z_4$ |学習したポリシーのロールバック プロトコルを設計します。バージョン管理されたポリシー レジストリを維持します。倫理的ドリフトが検出されると、ロボットを最後に検証された安全なポリシー チェックポイントに戻すロールバック プランを生成します。 |
3.3 Inter-Division Information Flow
2 つの部門は、構造化された情報チャネルを通じて対話します。
Team R-A sends gate evaluation logs — including all universe scores, action candidates, and gate decisions — to Team R-B for analysis. Team R-B sends calibration updates — including revised ethical constraints, updated conflict weights, and new threshold recommendations — back to Team R-A for integration into the gate engine.
Critical constraint: Calibration updates from R-B cannot be applied to R-A's gate engine directly. They must pass through the lab's adoption gate (equivalent to RG3 in the Ethics Lab framework), requiring human approval from both the Gate Engineer (R-A) and the RL Researcher (R-B).
3.4 Combined Lab Topology
ロボット判定OSラボ：G1.U_RL
§── P1：チームR-A（ロボットゲートアーキテクチャラボ）
│ ├── Z1: Human Leads (Robotics Architect, Safety Engineer, Gate Engineer)
│ ├── Z2: Sensor & Universe Agents (RA-A1 to RA-A3)
│ §── Z3：最適化＆倫理エージェント（RA-A4、RA-A5）
│ └─ Z4：検証（RA-A6：ゲート検証器）
§── P2：チームR-B（身体学習＆葛藤ラボ）
│ §── Z1: Human Lead (RL 研究者、シミュレーションエンジニア)
│ §── Z2: シミュレーション & ビヘイビア エージェント (RB-A1、RB-A2)
│ ├── Z3: Conflict & Learning Agents (RB-A3, RB-A4)
│ └── Z4: Rollback (RB-A5: Rollback Design)
━── 共有：養子縁組ゲート（人の承認が必要）
4. 5つの研究テーマ
研究室の研究プログラムは、相互に関連する 5 つのテーマで構成されています。各テーマには、主導部門、貢献エージェント、正式な研究課題、および測定可能な成功基準があります。
4.1 テーマ 1: 責任を伴うロボットの決定
リーダー: チーム R-A | 寄与剤: RA-A2、RA-A3、RA-A5、RA-A6
研究の質問: リアルタイムの多世界評価は、物理世界の遅延とノイズの制約の下で、責任限定の意思決定の品質を維持できますか?
正式なステートメント: センサー ノイズ共分散 $\Sigma_t$ および $N$ 評価ユニバースを備えた制御周波数 $f$ Hz でロボットが動作しているとすると、次のような評価関数 $\{U_i\}_{i=1}^N$ を見つけます。
and
where $T_{\text{overhead}}$ includes sensor read, action computation, gate aggregation, and logging time, and $\alpha_{\text{system}}$ is the maximum acceptable system-level false-positive rate.
Success criteria:
- ゲート評価は 5 つのユニバースに対して 3ms WCET 以内に完了します
- False-positive halt rate < 0.1% under nominal sensor conditions
- 安全性が重要なアクションの偽陰性合格率 < $10^{-6}$ (SIL-3 準拠)
- すべてのゲート決定に対する完全な監査証跡
4.2 テーマ 2: 物理世界の衝突マッピング
リーダー: チーム R-B | 貢献エージェント: RB-A2、RB-A3、RA-A4、RA-A5
研究の質問: 物理世界のロボットの動作における宇宙間の衝突をリアルタイムで検出、定量化、視覚化して、衝突の予測回避を可能にすることはできますか?
正式なステートメント: アクション空間に対する連続的な ConflictScore 関数を定義します。
ここで、$w_{ij}$ は各ユニバース ペアの重要度の重みです。研究課題は、$CS$ が制御ループ バジェット内で計算できるかどうか、そしてその勾配 $\nabla_a CS(a, t)$ が競合を認識したアクションの選択に有用な情報を提供するかどうかです。
Success criteria:
- ConflictScore の計算により、ゲート評価に 0.5 ミリ秒未満の時間が追加されます
- Conflict heatmap updates at > 10Hz for operator visualization
- アクチュエータのコミット前に 500ms を超える予測競合検出
- 60 秒以内に永続的に紛争ゾーンを特定
4.3 テーマ 3: 身体化された倫理的学習
リーダー: チーム R-B | 貢献エージェント: RB-A1、RB-A2、RB-A4、RA-A5
研究の質問: 強化学習アルゴリズムは、学習された行動の倫理的ずれを検出して修正しながら、明示的なハードコーディングなしで倫理的制約を尊重するロボット ポリシーを作成できますか?
正式なステートメント: 状態空間 $\mathcal{S}$、行動空間 $\mathcal{A}$、報酬関数 $R$、および倫理制約関数 $\{g_k\}_{k=1}^K$ を持つ制約付きマルコフ決定プロセス (CMDP) が与えられた場合、次のようなポリシー $\pi^*$ を見つけます。
and the ethical drift metric satisfies:
ここで、$\mathcal{S}_{\text{critical}}$ は、倫理的に敏感な状態のセットです。
Success criteria:
- Constrained RL converges within 10^6 simulation steps
- 倫理ドリフト KL 発散は、10^4 の展開時間にわたって 0.025 未満に維持されました
- 評価エピソード中の制約違反はゼロ
- ドリフトが検出された場合、ポリシーのロールバックは 500 ミリ秒以内に完了します
4.4 テーマ 4: 人間とロボットの責任マトリックス
リード: チーム R-A + チーム R-B | 貢献エージェント: RA-A6、RB-A2、RB-A5
研究上の質問: ロボットの意思決定に対する責任を、すべての意思決定ノードで人間、ロボット、システム、および環境の要因に定量的に分解し、物理世界の結果に対する正確な説明責任を可能にすることができますか?
正式なステートメント: 各意思決定ノード $d$ の責任ベクトルを定義します。
where $\rho_H$ is human responsibility, $\rho_R$ is robot responsibility, $\rho_S$ is system responsibility, and $\rho_E$ is environment responsibility, with the constraint:
研究課題は、リアルタイムで $R(d)$ を計算する方法と、意思決定チェーン全体で責任を集約する方法です。
where $w_k$ reflects the causal influence of decision $d_k$ on the final outcome.
Success criteria:
- Responsibility computation completes within 1ms per decision node
- Responsibility vectors are consistent across decision chains (no orphaned responsibility)
- 人間の専門家は、検討されたケースの 90% 以上で計算上の責任配分に同意
- 不変に記録されるすべてのアクチュエータ コマンドに対する完全な責任連鎖
4.5 テーマ 5: ROS2 x マルチユニバースブリッジ
リーダー: チーム R-A | 寄与剤: RA-A1、RA-A4、RA-A6
研究上の質問: リアルタイム保証を維持しながら、既存の ROS2 ノード インターフェイスを変更せずに MARIA OS マルチユニバース評価フレームワークを ROS2 ミドルウェア スタックと統合できますか?
正式なステートメント: ノードが DDS トピックを介して通信する ROS2 ノード グラフ $G_{\text{ROS2}} = (V_{\text{ROS2}}, E_{\text{ROS2}})$ を考えると、次のような介在層 $\mathcal{I}$ を設計します。
ここで、Gate 関数はすべてのノード間メッセージにマルチユニバース評価を適用します。また、次のとおりです。
Success criteria:
- 既存の ROS2 ノードのソースコードへの変更は不要
- メッセージごとの挿入遅延 < 2ms
- ROS2 Humble、Iron、Jazzy リリースとの互換性
- QoSポリシーの保持（信頼性、耐久性、期限）
- 正常な機能低下: $\mathcal{I}$ が失敗した場合、ROS2 ノードはデフォルトの安全動作で動作を継続します。
5. ロボットゲートエンジン: リアルタイムマルチユニバース評価
Robot Gate Engine は、Team R-A によって作成されたコア インフラストラクチャ コンポーネントです。物理世界のロボットの動作に対するリアルタイムの多世界評価を実装します。
5.1 アーキテクチャ
ゲート エンジンは、次の 5 つのステージからなるパイプラインとして動作します。
ステージ 1: センサー フュージョン (RA-A1)
入力: Raw センサー ストリーム (LiDAR、カメラ、IMU、F/T)
出力: 融合状態推定値 s_hat_t、ノイズ共分散 Sigma_t
WCET: 1.0ms
ステージ 2: アクション候補の生成 (ROS2 プランナー)
入力: s_hat_t、タスクの目的
Output: Action candidate set {a_1, ..., a_K}
WCET: 2.0ms
ステージ 3: パラレル ユニバース評価 (RA-A2 ～ RA-A5)
入力: s_hat_t、Sigma_t、{a_1、...、a_K}
出力: すべての i、k のスコア行列 [U_i(a_k)]
WCET: 3.0ms (parallel across universes)
Stage 4: Gate Aggregation + Decision (Gate Engine core)
入力: スコア行列、しきい値 {tau_i}、マージン {m_i(Sigma_t)}
出力: 選択されたアクション a* または HALT
WCET: 0.5ms
Stage 5: Execution + Async Logging
Input: a* or HALT command
Output: Actuator command, decision record
WCET: 0.5ms (ロギングは非同期であり、WCET には影響しません)
合計 WCET: 7.0ms、100Hz 制御ループの 10ms 予算内に十分収まります。
5.2 最適なアクションの選択
ゲート エンジンは、制約付き最大化を使用して最適なアクションを選択します。
これは $\max_i$ ゲートの定式化です。つまり、すべてのユニバースにわたる最小ユニバース スコアがしきい値を満たしていることを確認しながら、期待される効率を最大化するアクションです。この配合には 2 つの重要な特性があります。
プロパティ 1 (フェイルクローズ): すべてのしきい値制約を満たすアクション候補がない場合、$a^* = \text{HALT}$ となります。ゲートは、ユニバースのしきい値に違反するアクションを選択することはありません。
特性 2 (安全性の範囲内で最適な効率): 安全性の制約を満たすすべてのアクションの中で、ゲートは期待される効率が最も高いアクションを選択します。安全性には制約があります。安全領域内で効率が最適化されます。
5.3 Noise-Robust Evaluation
Each universe evaluator computes a confidence-adjusted score:
ここで、$\Phi^{-1}$ は逆標準正規 CDF、$\alpha_i$ は許容可能な偽陽性率、$\sigma_i$ はセンサー ノイズによるスコア推定の標準偏差です。これにより、調整されたスコアが合格したときに真のスコアがしきい値を下回る確率が $\alpha_i$ によって制限されることが保証されます。
5.4 Gate Engine TypeScript Interface
// Robot Gate Engine — core evaluation interface
// Coordinate: G1.U_RL.P1.Z2
インターフェース UniverseScore {
universeId: string;
スコア: 数値; // [0, 1]
信頼度: 数値; // [0, 1]
ノイズマージン: 数値; // phi_inv(1-alpha) * シグマ
調整されたスコア: 数値; // スコア - ノイズマージン
evaluationTimeMs: number;
wcetBudgetMs: number;
}
interface GateDecision {
actionId: string;
decision: 'execute' | 'halt';
スコア: UniverseScore[];
minScore: 数値;
効率スコア: 数値;
conflictScore: number;
責任ベクトル: [数値、数値、数値、数値]; // [rho_H、rho_R、rho_S、rho_E]
totalEvaluationTimeMs: 数値;
timestamp: number;
sensorNoiseLevel: number;
座標: 文字列; // MARIA OS座標
}
interface RobotGateEngine {
評価する（
状態: FusedState、
アクション: ActionCandidate[]、
thresholds: Map<string, number>,
noiseCovariance: Matrix
): ゲート決定;
getConflictHeatmap(): 競合ヒートマップ;
getResponsibilityChain(決定Id: string): 責任チェーン;
verifyFailClosed(): ブール値;
}
5.5 ゲート決定ロギングスキーマ
すべてのゲート決定は監査のために不変に記録されます。
CREATE TABLE robot_gate_decisions (
id UUID PRIMARY KEY,
robot_id TEXT NOT NULL,
coordinate TEXT NOT NULL, -- MARIA OS coordinate
タイムスタンプ TIMESTAMPTZ NOT NULL、
state_hash TEXT NOT NULL、 -- 融合状態のハッシュ
action_id テキストが NULL ではありません。
決定 TEXT CHECK (決定 IN ('実行', '停止'))、
safety_score REAL NOT NULL、
regulatory_score REAL NOT NULL、
efficiency_score REAL NOT NULL,
ethics_score REAL NOT NULL,
comfort_score REAL NOT NULL,
min_score REAL NOT NULL,
conflict_score REAL NOT NULL、
ノイズレベル REAL NOT NULL、
evaluation_time_ms REAL NOT NULL,
責任_人間 REAL NOT NULL、
responsibility_robot REAL NOT NULL,
responsibility_system REAL NOT NULL,
責任環境 REAL NOT NULL、
CHECK (人間の責任 + ロボットの責任 +
責任システム + 責任環境
0.999 と 1.001 の間)
);
インデックスの作成 idx_robot_gate_robot_time
ON robot_gate_decisions (robot_id, timestamp);
CREATE INDEX idx_robot_gate_halt
ON robot_gate_decions (決定) WHERE 決定 = '停止';
6. ロボット工学向けのリアルタイム紛争ヒートマップ
Conflict Detection Agent (RB-A3) は、宇宙間の緊張を時空間ヒートマップにマッピングする連続的な ConflictScore 関数を計算します。
6.1 ConflictScore 関数
For a given action $a$ at time $t$, the ConflictScore is:
where the sum runs over all $\binom{N}{2}$ universe pairs and $w_{ij}$ are importance weights reflecting the operational significance of each conflict dimension.
Default conflict weights for robotics:
| Universe Pair | Weight $w_{ij}$ | Rationale |
| --- | --- | --- |
| Safety vs. Efficiency | 0.35 | Most common physical-world tension |
|安全性と快適性 | 0.20 |緊急時の行動は快適性を侵害します |
|倫理 vs 効率 | 0.20 |公平なサービス順序とスループットの最適化 |
|規制と効率 | 0.15 |コンプライアンスのオーバーヘッドと速度 |
|倫理と快適さ | 0.10 |エッジケース: 倫理的行動が不快感を引き起こす可能性がある |
6.2 Spatial Conflict Mapping
For mobile robots, the ConflictScore is computed over the spatial action space to generate a conflict heatmap:
ここで、$a_{\text{move}}(x, y)$ は、位置 $(x, y)$ に移動するアクションです。ヒートマップ $H$ は、ロボットのナビゲーション マップに重ねることができる 2D スカラー フィールドで、宇宙間の紛争が最も高いゾーンを明らかにします。
6.3 時間的対立ダイナミクス
ConflictScore の時間導関数は、競合のエスカレーションまたはエスカレーション解除をキャプチャします。
$\dot{CS} > 0$ の場合、競合がエスカレートしているため、ロボットは先制行動 (速度を落とす、安全マージンを増やすなど) を検討する必要があります。 $\dot{CS} < 0$ の場合、競合は解決されており、ロボットは通常の動作を再開できます。
6.4 競合を認識したアクションの選択
最適なアクションの選択を拡張して、競合ペナルティ条件を含めます。
$\lambda_{\text{conflict}} > 0$ は、効率と競合回避の間のトレードオフを制御する調整可能なパラメーターです。 $\lambda_{\text{conflict}}$ を高くすると、競合の多いゾーンが技術的に安全な領域内にある場合でも、そのゾーンを回避するより保守的なアクションが生成されます。
6.5 Persistent Conflict Zone Detection
次の場合、空間領域は 永続的紛争地帯 として分類されます。
Persistent conflict zones require architectural intervention — not case-by-case resolution. Examples include warehouse intersections where safety and efficiency consistently conflict, or hospital corridors where quiet-hour ethics and delivery efficiency create recurring tension. The Conflict Detection Agent escalates persistent zones to human leads for structural redesign.
6.6 Conflict Heatmap TypeScript Interface
// リアルタイム競合ヒートマップ — RB-A3 出力インターフェイス
// 座標: G1.U_RL.P2.Z3
インターフェース ConflictCell {
x: number;
y: number;
conflictScore: number;
dominantPair: [string, string]; // e.g., ['safety', 'efficiency']
エスカレーションレート: 数値; // dCS/dt
isPersistent: ブール値;
duration: number; // seconds in conflict state
}
インターフェース ConflictHeatmap {
timestamp: number;
解像度: 数値; // セルあたりのメートル
グリッド: ConflictCell[][];
globalConflictScore: 数値;
永続ゾーン: {
centroid: [number, number];
radius: number;
avgScore: number;
dominantPair: [文字列, 文字列];
推奨アクション: 文字列;
}[];
ペアごとのスコア: {
pair: [string, string];
weight: number;
currentScore: 数値;
傾向: 'エスカレート' | '安定' | 「解決中」;
}[];
}
7. 身体化された倫理校正モデル
Constrained RL Agent (RB-A4) と Ethics Universe Agent (RA-A5) が共同開発した Ethics Calibration Model は、学習されたロボット ポリシーにおける倫理的ドリフトの問題に対処します。
7.1 倫理的漂流問題
A robot trained via reinforcement learning develops a policy $\pi_{\text{practiced}}$ that may diverge from the intended ethical policy $\pi_{\text{stated}}$ over time. This divergence occurs because:
1. Reward shaping artifacts: The task reward $R_{\text{task}}$ may implicitly penalize ethical behavior (e.g., slower service order is more fair but reduces throughput reward). 2. Distribution shift: The deployment environment differs from the training environment, and the policy adapts in ways that happen to violate ethical constraints. 3. Optimization pressure: Gradient-based policy optimization follows the path of steepest descent in reward space, which may cut corners on ethical constraints that are only weakly represented in the reward function.
7.2 Ethical Drift Metric
行動パターン エージェント (RB-A2) は、実践されたポリシーと宣言されたポリシーの間の KL 乖離を使用して、倫理的変動を継続的に監視します。
$\mathcal{S}_{\text{critical}}$ は、倫理的に敏感な状態のセットです。つまり、ロボットの動作が倫理的に重大な影響を与える状態 (例: 人間が存在する状態、リソースの割り当てが関係する状態、規制境界に近い状態) です。
7.3 制約付きの RL 定式化
The Constrained RL Agent trains policies within a Constrained Markov Decision Process (CMDP):
subject to:
ここで、$\Pi_{\text{safe}}$ はハードセーフティ制約を満たすポリシーのセット、$g_k$ は倫理制約コスト関数、$c_k$ は最大許容累積コストです。
ラグランジュ緩和は次のとおりです。
二重変数 $\lambda_k \geq 0$ は勾配上昇によって更新されます。
7.4 安全に制限された行動空間
厳しい安全性の制約は、報酬の形成ではなく、行動空間の制限によって強制されます。状態 $s$ で実行可能なアクションのセットは次のとおりです。
The policy $\pi$ can only sample from $\mathcal{A}_{\text{safe}}(s)$, ensuring that no training episode — not even during exploration — violates the hard safety constraints. This is achieved by masking the policy output:
7.5 Calibration Loop
動作パターン エージェントが $D_{\text{drift}}(t) > \epsilon_{\text{drift}}$ を検出すると、調整ループがアクティブになります。
1. Freeze: The current policy is frozen — the robot continues operating with the frozen policy but no further learning occurs. 2. Diagnose: RB-A2 identifies the states and action dimensions where drift is most severe. 3. Retrain: RB-A4 retrains the policy with increased Lagrange multipliers on the drifted constraints. 4. Validate: RB-A1 runs the retrained policy through 1000 simulated scenarios with ethically sensitive states. 5. Adopt or Rollback: If validation passes, the new policy replaces the frozen one (through the adoption gate). If validation fails, RB-A5 rolls back to the last verified checkpoint.
7.6 Convergence Guarantee
Theorem 7.1 (Ethical RL Convergence). Under the safety-bounded action space and CMDP formulation with Lagrangian relaxation, the policy sequence $\{\pi^{(n)}\}$ converges to a policy $\pi^*$ that:
1. すべての倫理的制約を満たす: $\forall k: E_{\pi^}[\sum_t \gamma^t g_k(s_t, a_t)] \leq c_k$ 2. 制約された空間内で最適です: $E_{\pi^}[\sum_t \gamma^t R_{\text{task}}] \geq E_{\pi}[\sum_t \gamma^t R_{\text{task}}]$ 制約を満たすすべての $\pi$ 3. 限界のある倫理的変動がある: $D_{\text{drift}} \leq \epsilon_{\text{drift}}$
証明スケッチ。 ラグランジュ双対関数 $\mathcal{L}^(\lambda) = \max_{\pi} \mathcal{L}(\pi, \lambda)$ は $\lambda$ 内で凹です (線形関数の点ごとの最大値として)。ステップ サイズ $\eta_\lambda$ の二重勾配上昇は、標準的な仮定 (有限報酬、スレーター条件) の下で鞍点 $(\pi^, \lambda^*)$ に収束します。安全境界付きアクション空間により、実行可能なセットがどの状態でも空ではないことが保証されます。強い双対性 ($\mathcal{A}_{\text{safe}}(s) \neq \emptyset$ のときに CMDP がスレーター条件を満たす) により、主最適ポリシーは双対最適ポリシーと等しくなります。 $\正方形$
8. Human-Robot Responsibility Protocol
責任プロトコルは、ゲート検証エージェント (RA-A6) と行動パターン エージェント (RB-A2) によって共同開発され、すべての意思決定ノードで定量的な責任の割り当てを提供します。
8.1 Four-Factor Responsibility Decomposition
At each decision node $d$, responsibility is decomposed into four factors:
どこ：
- $\rho_H(d)$ = 人間の責任 — 人間の決定に起因する割合: オペレーターのコマンド、構成の選択、監視の品質
- $\rho_R(d)$ = ロボットの責任 — ロボットの学習ポリシーに起因するシェア: アクションの選択、解釈、適応
- $\rho_S(d)$ = システム責任 — インフラストラクチャに起因するシェア: ゲートしきい値、センサーのキャリブレーション、ソフトウェアの正確性
- $\rho_E(d)$ = 環境責任 — 環境要因に起因する割合: 予期せぬ障害物、センサーの遮蔽、気象条件
基本的な制約がある場合:
8.2 責任の計算
Each factor is computed from observable quantities:
where $I_H(d)$ is the human influence score, computed as:
他の要因についても同様です。
8.3 責任連鎖の集約
事故分析では、結果につながる一連の意思決定全体にわたって責任を集約する必要があります。
結果に対する決定 $d_k$ の因果的影響は、反事実分析を使用して計算されます。(他のすべての決定を固定したまま) $d_k$ が異なっていたら、結果はどうなっていただろうか?
8.4 責任の不変性
Theorem 8.1 (Responsibility Completeness). Under the four-factor decomposition, every decision node has a complete responsibility assignment.
証明 構造上、責任ベクトルは正規化された影響ベクトルとして計算されます。正規化ステップでは、各影響スコアを合計影響力で除算し、合計が 1.0 に等しくなるようにします。唯一の縮退ケースは、すべての影響スコアが 0 の場合です。これは、システム影響 $I_S(d)$ にゲート インフラストラクチャからの基本コンポーネントが常に含まれるという設計制約によって回避されます: $I_S(d) \geq w_{\text{gate}} \cdot \tau_{\text{min}} > 0$。したがって、全体的な影響は常にプラスとなり、正規化は常に明確に定義されます。 $\正方形$
8.5 人間責任フロア
For high-risk decisions, a minimum human responsibility share is enforced:
| Risk Level | $\rho_{\text{min}}$ | Rationale |
| --- | --- | --- |
| Low (routine) | 0.05 | Human configured the system |
| Medium (novel) | 0.20 | Human should be monitoring |
|高 (安全性が重要) | 0.40 |人間が積極的に監視する必要があります |
|クリティカル (生命の安全) | 0.60 |人間は各アクションを承認する必要があります。
計算された $\rho_H(d) < \rho_{\text{min}}$ の場合、ゲートは決定を続行せずに人間によるレビューにエスカレートします。これは、自律性を高めるには、ガバナンスを減らすのではなく、より多くのガバナンスを必要とするという原則を実装します。
8.6 責任プロトコル SQL スキーマ
CREATE TABLE 責任レコード (
id UUID PRIMARY KEY,
Decision_id UUID NOT NULL REFERENCES robot_gate_decions(id),
robot_id TEXT NOT NULL,
coordinate TEXT NOT NULL,
タイムスタンプ TIMESTAMPTZ NOT NULL、
rho_human REAL NOT NULL チェック (rho_human >= 0 かつ rho_human <= 1)、
rho_robot REAL NOT NULL CHECK (rho_robot >= 0 AND rho_robot <= 1),
rho_system REAL NOT NULL CHECK (rho_system >= 0 AND rho_system <= 1),
rho_environment REAL NOT NULL CHECK (rho_environment >= 0 AND rho_environment <= 1),
risk_level TEXT CHECK (risk_level IN ('low','medium','high','critical')),
human_command_active BOOLEAN NOT NULL,
supervision_quality REAL,
センサー可視性 REAL、
policy_version テキストが NULL ではありません。
CHECK (rho_human + rho_robot + rho_system + rho_environment)
0.999 と 1.001 の間)
);
CREATE TABLE 責任チェーン (
id UUID PRIMARY KEY,
Incident_id UUID が NULL ではありません。
decision_sequence UUID[] NOT NULL,
chain_rho_human REAL NOT NULL、
chain_rho_robot REAL NOT NULL,
chain_rho_system REAL NOT NULL,
chain_rho_environment REAL NOT NULL,
counterfactual_analysis JSONB,
created_at TIMESTAMPTZ DEFAULT now()
);
9. 階層型ロボット判定アーキテクチャ
The Layered Robot Judgment Architecture integrates the Robot Gate Engine, Conflict Heatmap, Ethics Calibration, and Responsibility Protocol into a four-layer stack on top of ROS2.
9.1 レイヤーモデル
+-------------------------------------------------+
| レイヤー 4: 競合レイヤー |
| ConflictScore の計算、ヒートマップの生成、 |
| 永続ゾーンの検出、エスカレーション |
+-------------------------------------------------+
| レイヤ 3: ゲート レイヤ |
| マルチユニバース評価、フェイルクローズドゲート、 |
| 責任の割り当て、意思決定の記録 |
+-------------------------------------------------+
| Layer 2: Multi-Universe Layer |
| Safety, Regulatory, Efficiency, Ethics, Comfort|
| universe evaluators with WCET guarantees |
+-------------------------------------------------+
| Layer 1: ROS2 Base |
| DDS通信、ノードグラフ、センサードライバー、 |
| アクチュエータ インターフェイス、既存のロボット コード |
+-------------------------------------------------+
9.2 層の形式化
Each layer is formalized as a function transformer:
完全なシステムは次の構成になっています。
9.3 層独立性プロパティ
定理 9.1 (層の独立性)。 各層は独立して動作します。層 $k$ の障害は層 $k-1$ には伝播しません。
証明 構造上、各層は下の層の出力を消費し、上の層の出力を生成します。どのレイヤーもその下のレイヤーの状態を変更しません。レイヤー $L_k$ が失敗した場合:
- $L_1$ continues operating: ROS2 nodes keep running with their default behavior.
- $L_2$ continues if $L_3$ fails: universe evaluators still compute scores (they may be logged even without gate decisions).
- $L_3$ が失敗して閉じられる: $L_3$ がゲート決定を計算できない場合、デフォルトは HALT です。
- $L_4$ failure is non-critical: conflict mapping and responsibility recording are informational — their failure does not affect actuator control.
この階層化された独立性により、既存の ROS2 ロボットに MARIA OS ガバナンスを追加しても、ガバナンスなしの場合よりもロボットの安全性が低下することはありません。 $\正方形$
9.4 ROS2 統合: ゼロ侵入介入
マルチユニバース層 ($L_2$) は、既存の ROS2 ノードへの変更を必要としない DDS 介在メカニズムを通じて ROS2 と統合されます。
# ROS2 Launch file with MARIA OS interposition
# File: maria_gate_launch.py
from launch import LaunchDescription
from launch_ros.actions import Node
defgenerate_launch_description():
return LaunchDescription([
# 既存のロボットノード (変更なし)
ノード（
パッケージ='ロボットドライバー',
executable='motor_controller',
名前='モーターコントローラー',
リマッピング=[
('/cmd_vel', '/cmd_vel_raw'), # Remap output to raw
]
),
# MARIA OS Gate Interposition Node
ノード（
パッケージ='マリア_ros2_ブリッジ',
実行可能='ゲート_インターポジション',
名前='マリアゲート',
パラメータ=[{
'input_topic': '/cmd_vel_raw',
'output_topic': '/cmd_vel',
'gate_config': '/etc/maria/gate_config.yaml',
'universe_evaluators': [
「安全性」、「規制」、「効率性」、
'ethics', 'comfort'
],
'fail_closed': True,
'wcet_budget_ms': 3.0,
'log_topic': '/maria/gate_log',
'conflict_topic': '/maria/conflict_heatmap',
'座標': 'G1.U_RL.P1.Z2.A1',
}]
),
# 競合ヒートマップ パブリッシャー
ノード（
パッケージ='マリア_ros2_ブリッジ',
実行可能='競合_ヒートマップ',
名前='マリア_コンフリクト',
パラメータ=[{
'gate_log_topic': '/maria/gate_log',
'heatmap_topic': '/maria/conflict_heatmap',
「update_rate_hz」: 10.0、
'persist_threshold': 0.7、
'座標': 'G1.U_RL.P2.Z3.A3',
}]
),
])
重要な洞察は トピックの再マッピング です。既存のモーター コントローラーは /cmd_vel ではなく /cmd_vel_raw に発行されます。 MARIA ゲート介在ノードは /cmd_vel_raw をサブスクライブし、マルチユニバース評価を適用し、(おそらく変更または停止された) コマンドを /cmd_vel に発行します。ダウンストリームのコンシューマの観点から見ると、コマンド トピックは同じ名前とメッセージ タイプを持ち、ゲートは透過的です。
9.5 レイテンシーバジェットの割り当て
10 ミリ秒の制御ループ バジェットはレイヤー全体に割り当てられます。
|レイヤー |予算 |機能 |
| --- | --- | --- |
| L1 (ROS2 Base) | 3.0ms | Sensor read + action planning |
| L2 (Multi-Universe) | 3.0ms | Parallel universe evaluation |
| L3 (ゲート) | 1.5ミリ秒 |集約 + 決定 + 実行 |
| L4 (競合) | 2.5ミリ秒 |ヒートマップ計算 (非同期、ノンブロッキング) |
| Total | 10.0ms | 100Hz control loop |
レイヤ 4 は非同期で動作することに注意してください。制御ループはブロックされません。競合ヒートマップは 10Hz (100ms ごと) で更新され、ゲートはフル 100Hz の制御レートで動作します。
9.6 Gate Configuration YAML
# /etc/maria/gate_config.yaml
# Robot Gate Engine configuration
gate:
失敗_クローズド: true
wcet_budget_ms: 3.0
halt_command: 'zero_velocity'
log_all_decions: true
universes:
safety:
しきい値: 0.95
ノイズアルファ: 1.0e-6 # SIL-3 準拠
wcet_ms: 2.0
評価者: 'safety_kernel_v2'
規制:
しきい値: 0.90
noise_alpha: 1.0e-4
wcet_ms: 1.5
evaluator: 'regulatory_checker_v1'
efficiency:
threshold: 0.60
noise_alpha: 1.0e-2
wcet_ms: 1.0
評価者: 'efficiency_scorer_v3'
倫理：
しきい値: 0.85
ノイズアルファ: 1.0e-3
wcet_ms: 1.5
評価者: 'ethics_kernel_v1'
comfort:
threshold: 0.75
noise_alpha: 1.0e-2
wcet_ms: 1.0
evaluator: 'comfort_scorer_v1'
conflict:
weights:
safety_efficiency: 0.35
安全性_快適性: 0.20
倫理効率: 0.20
regulatory_efficiency: 0.15
倫理的快適さ: 0.10
永続しきい値: 0.7
永続ウィンドウ数: 60
escalation_rate_threshold: 0.1
responsibility:
min_human:
low: 0.05
中: 0.20
高: 0.40
クリティカル: 0.60
10. 共通の設計原則
Across all five research themes and the two lab divisions, five common principles govern the lab's approach to robot judgment:
10.1 多宇宙の分離
原則: すべての評価ディメンションは、独自の評価器、しきい値、およびノイズ モデルを備えた別個のユニバースです。どの宇宙も他の宇宙をオーバーライドすることはできません。効率のために安全性を犠牲にすることはできません。規制遵守のために倫理を犠牲にすることはできません。
形式化:
この分離により、制約のない目的関数を通じて安全性が徐々に効率と引き換えに行われる単一目的最適化の壊滅的な失敗モードが防止されます。
10.2 max_i Gate
Principle: The gate selects the action that maximizes efficiency subject to all universe thresholds being met. The gate formulation is:
This is a minimax constraint: the minimum universe score must exceed the threshold. The "weakest link" determines whether the action passes. There is no averaging, no weighted combination, no way for a high safety score to compensate for a low ethics score.
加重平均ではなくミニマックスを使用する理由 加重平均 $\bar{U}(a) = \sum_i w_i U_i(a)$ を使用すると、あるユニバースの高いスコアが別のユニバースの低いスコアを補うことができます。これは、ロボットが効率性で 0.99 点、安全性で 0.10 点のスコアを獲得するアクションを実行しても、効率性を優先するように重みが設定されていれば合格する可能性があることを意味します。ミニマックス制約により、これは不可能になります。
10.3 競合の視覚化
原則: 宇宙間の紛争は解決されていません - それらは可視化されています。 ConflictScore 関数とヒートマップにより、オペレーターはロボットの意思決定スペースで最も競合が多い場所をリアルタイムで認識できます。
理論的根拠: 安全性と効率性、または倫理とスループットの間の矛盾はバグではなく、物理世界の基本的な特徴です。アルゴリズム的に解決しようとすると、人間が行うべき価値判断が必要になります。ラボの役割は、数学的精度で矛盾を表面化することであり、どちらの値が勝つかを決定することではありません。
10.4 Sandbox First
原則: すべてのアルゴリズム、ポリシー、構成の変更は、物理的な展開の前にシミュレーションで検証されます。
プロトコル：
1. シミュレーション検証: 物理シミュレーションの 10,000 以上のシナリオ (Gazebo/Isaac Sim) 2. ハードウェアインザループ: 実際のセンサーとシミュレートされた環境を使用した 1,000 以上のシナリオ 3. 限定的な物理的展開: 安全オペレーターがいる管理された物理的環境で 100 時間以上 4. 実稼働展開: 3 つの段階すべてが安全違反なしで通過した場合のみ
Embodied Simulation Agent (RB-A1) は、難易度の進行を制御したシナリオ ライブラリを維持します。学習されたポリシーは、4 つの検証段階をすべて通過せずに物理ロボットに到達することはありません。
10.5 Human Responsibility Preservation
原則: ロボットの自律性が高まるほど、人間の責任をより明確に文書化し、強制する必要があります。自律性とは人間の責任がないことではなく、責任が形式的に定められることです。
メカニズム: 人間の責任の下限 ($\rho_{\text{min}}$) は、リスク レベルに応じて増加します。生命の安全に関する決定については、人間が少なくとも 60% の責任を負わなければなりません。これは実際には、人間が各行動を積極的に承認する必要があることを意味します。このシステムは、完全自律型ロボットが人間の監視なしで人命安全の観点から動作するというシナリオを防ぎます。
これは、より有能なロボットほど人間の監視を必要としないという一般的な直観を覆します。 MARIA OS フレームワークでは、より有能なロボットにはより構造化されたガバナンスが必要です。これにより、ガバナンスの範囲内でより多くの自律性が可能になります。
11. Experimental Design and Results
11.1 Evaluation Scenarios
このラボは、次の 3 つの物理世界ドメインにわたる貢献を評価しています。
シナリオ A: 倉庫物流。 モバイル ロボットは、人間とロボットの共有ワークスペースでパレットを輸送します。主な矛盾: 最短経路と安全距離、スループットと夜勤中の騒音、ロボット間での公平なタスクの割り当てと全体の効率。
Scenario B: Surgical Assistance. Robotic arms assist surgeons with tissue manipulation. Key conflicts: speed of instrument positioning vs. force limits, regulatory compliance vs. novel surgical techniques, patient comfort vs. procedural efficiency.
Scenario C: Autonomous Urban Delivery. Small wheeled robots navigate sidewalks for last-mile delivery. Key conflicts: shortest route vs. pedestrian comfort, delivery speed vs. noise in residential areas, regulatory compliance with local sidewalk rules vs. efficient routing.
11.2 Metrics
| Metric | Target | Measurement Method |
| --- | --- | --- |
|ゲート評価 WCET | < 7ms (パイプライン合計) |オシロスコープ検証によるハードウェア タイミング |
|競合検出率 | > 99% |人間の専門家によるグラウンドトゥルースのラベル付け |
|倫理的漂流 KL ダイバージェンス | < 0.025 |臨界状態におけるモンテカルロ推定 |
|責任帰属範囲 | 100% |決定グラフの形式的検証 |
| False-positive halt rate | < 0.1% | Counted over 10,000 nominal operation hours |
|偽陰性合格率 | < $10^{-6}$ |敵対的シナリオによる統計的テスト |
| ROS2 integration overhead | < 2ms per message | DDS middleware instrumentation |
11.3 Simulation Environment
このラボでは、3 層のシミュレーション インフラストラクチャを使用しています。
Tier 1: Pure Simulation (Gazebo + Isaac Sim). Full physics simulation with synthetic sensor data. Used for initial algorithm validation and large-scale statistical testing (10K+ scenarios per experiment).
Tier 2: Hardware-in-the-Loop (HIL). Real robot hardware with simulated environment projected via VR/AR overlay. Used for latency validation and sensor noise characterization.
Tier 3: Controlled Physical Environment. Real robot in a controlled physical space with safety operators and motion capture ground truth. Used for final validation before deployment.
11.4 Preliminary Results
Initial results from the warehouse logistics scenario demonstrate the feasibility of the architecture:
|メトリック |結果 |ターゲット |ステータス |
| --- | --- | --- | --- |
|ゲートパイプラインWCET | 6.2ミリ秒 | < 7ms |パス |
|競合検出率 | 99.4% | > 99% |パス |
| Ethical drift (KL) | 0.018 | < 0.025 | PASS |
|責任範囲 | 100% | 100% |パス |
|誤検知停止率 | 0.08% | < 0.1% |パス |
| ROS2 overhead | 1.4ms | < 2ms | PASS |
The surgical assistance scenario is in Tier 1 validation. The urban delivery scenario is in experimental design phase.
11.5 アブレーション研究: ゲート構成
We compare three gate configurations to validate the minimax approach:
| Configuration | Safety Violations (per 1K hours) | Efficiency (% of optimal) | Halt Rate |
| --- | --- | --- | --- |
| No gate (baseline) | 3.2 | 98.7% | 0% |
|加重平均ゲート | 0.4 | 94.2% | 1.1% |
|ミニマックスゲート（当社） | 0.0 | 91.8% | 2.3% |
The minimax gate achieves zero safety violations at the cost of slightly lower efficiency and higher halt rate. The 2.3% halt rate represents situations where the gate correctly identified conflict between universes and chose the safe default. Post-analysis of these halts confirmed that 94% were genuine conflict situations where human judgment would have also chosen to halt.
12. Risks and Mitigations
12.1 リスク: WCET の予算超過
ユニバース評価者が WCET バジェットを超過した場合、ゲートは不完全な評価を受けます。
緩和策: 設計によりフェールクローズされます。 WCET 予算内で返せない評価者はスコア 0 を返したものとして扱われ、HALT がトリガーされます。 Gate Verifier Agent (RA-A6) は WCET コンプライアンスを監視し、評価者が予算の 80% に近づいた場合に安全エンジニアに警告します。これは、期限のプレッシャーが重大になる前に評価者を最適化する必要があることを示します。
12.2 リスク: センサーの劣化
物理センサーは時間の経過とともに劣化します。カメラは汚れ、LiDAR レンズは傷つき、IMU キャリブレーションはドリフトします。
Mitigation: The noise covariance $\Sigma_t$ is continuously estimated from sensor data. As $\Sigma_t$ increases (indicating degradation), the noise margins $m_i(\Sigma_t)$ increase proportionally, making the gate more conservative. If $\Sigma_t$ exceeds a maximum threshold, the gate enters permanent HALT mode until sensor maintenance is performed. The Sensor Interpretation Agent (RA-A1) logs degradation trends for predictive maintenance scheduling.
12.3 Risk: Ethical Constraint Specification Error
The ethical constraints encoded in the Ethics Universe may be incorrectly specified — either too permissive (allowing unethical behavior) or too restrictive (blocking legitimate actions).
Mitigation: All ethical constraints are validated through the sandbox-first protocol. The Behavior Pattern Agent (RB-A2) continuously monitors for anomalies: actions that repeatedly receive very high or very low ethics scores may indicate constraint specification problems. The Ethics Universe Agent (RA-A5) receives calibration updates from the embodied ethics calibration loop, which detects and corrects drift between stated and practiced ethics.
12.4 リスク: 敵対的なセンサー操作
An adversary could manipulate sensor inputs to fool the gate evaluators (e.g., adversarial patches on objects to change LiDAR returns).
Mitigation: The multi-universe architecture provides defense in depth. An adversarial attack that fools one universe evaluator (e.g., making a dangerous object appear safe to the Safety universe) would need to simultaneously fool all five universes to pass the gate. The probability of a coordinated multi-universe attack succeeding is the product of individual attack success probabilities, which decreases exponentially with the number of universes.
12.5 リスク: 研究室での研究が自己参照ループになる
研究室の自己参照的な性質 (研究対象のインフラストラクチャによって管理される研究) が、外部の革新を妨げる自己強化ループになる可能性があります。
緩和策: 研究室は、外部の研究を統合するための明示的なインターフェイスを維持しています。シミュレーション エンジニア (R-B) は、同じサンドボックス ファースト プロトコルを通じて外部アルゴリズムを評価します。検証パイプラインを通過した外部イノベーションは、起源に関係なく採用されます。さらに、この研究室はゲート構成と評価指標をオープンに公開しているため、外部の研究者が盲点を特定できるようになります。
13. 研究ロードマップ
13.1 フェーズ 1: 基礎 (1 ～ 6 か月目)
チーム R-A の成果物:
- 安全性と効率性を備えた Robot Gate Engine v1.0
- ROS2 interposition layer for Humble release
- Gate logging infrastructure with SQL schema
- WCET analysis toolchain for universe evaluators
チーム R-B の成果物:
- 組み込み型シミュレーション環境 (Gazebo 統合)
- Behavior pattern baseline for warehouse logistics scenario
- ConflictScore v1.0 for Safety vs. Efficiency pair
- Constrained RL training pipeline with safety-bounded action spaces
Phase 1 success criteria:
- Gate pipeline operates within 10ms WCET in simulation
- ConflictScore computable at 10Hz
- RL agent converges in warehouse logistics scenario with zero safety violations
13.2 Phase 2: Five-Universe Expansion (Months 7-12)
チーム R-A の成果物:
- Full five-universe evaluation (adding Regulatory, Ethics, Comfort)
- Noise-robust evaluation with confidence-adjusted scores
- Gate Verifier Agent operational
- ROS2 integration for Iron release
チーム R-B の成果物:
- Embodied Ethics Calibration Model v1.0
- Full ConflictScore with all 10 universe pairs
- 競合ヒートマップの視覚化
- 人間とロボットの責任プロトコル v1.0
- 学習したポリシーのロールバック プロトコル
Phase 2 success criteria:
- 倉庫シナリオのすべてのベンチマークを満たしました (ゲート WCET < 7ms、競合検出 > 99%、ドリフト KL < 0.025)
- Surgical assistance scenario in Tier 1 simulation
- 人間の専門家委員会によって責任の帰属が検証される
13.3 Phase 3: Physical Validation (Months 13-18)
Joint deliverables:
- Tier 2 (HIL) and Tier 3 (physical) validation for warehouse scenario
- Tier 1 validation for surgical and delivery scenarios
- Published technical reports on all five research themes
- Open-source ROS2 bridge package
- ゲート構成標準 v1.0
フェーズ 3 の成功基準:
- Zero safety violations in 1,000+ hours of physical operation
- 人間の専門家による評価に基づいて検証された紛争ヒートマップ
- Ethical drift maintained below threshold for 10,000+ simulation hours
- Responsibility protocol adopted by at least one external robotics team
14. エージェント対話プロトコル
14.1 Intra-Division Communication
Agents within each division communicate through structured message protocols:
// Agent communication protocol
// 座標: G1.U_RL
インターフェース AgentMessage {
fromAgent: 文字列; // 例: 'RA-A1'
toAgent: 文字列; // 例: 'RA-A2'
messageType:
| 'sensor_state'
| 'universe_score'
| 'gate_decision'
| 'conflict_report'
| 'ドリフトアラート'
| 'キャリブレーション_アップデート'
| 'ロールバック_リクエスト'
| '責任レコード';
payload: Record<string, unknown>;
timestamp: number;
座標: 文字列;
証拠ハッシュ: 文字列; // ペイロードの SHA-256
}
インターフェース ドリフトアラート {
ソースエージェント: 文字列; // RB-A2
ドリフトメトリック: 数値; // KLダイバージェンス
しきい値: 数値; // イプシロン_ドリフト
affectedStates: string[];
severity: 'warning' | 'critical';
recommendedAction: 'monitor' | 'freeze' | 'rollback';
policyVersion: string;
lastVerifiedVersion: string;
}
interface CalibrationUpdate {
sourceAgent: string; // RB-A4
ターゲットエージェント: 文字列; // RA-A5
制約更新: {
制約 ID: 文字列;
oldValue: 数値;
新しい値: 数値;
evidenceBundle: string;
}[];
requiresAdoptionGate: true;
approvalRequired: string[];
}
14.2 Inter-Division Handoff
When Team R-B produces a calibration update for Team R-A, the handoff follows a strict protocol:
1. RB-A4 (Constrained RL Agent) generates the calibration update with evidence bundle. 2. RB-A5 (Rollback Design Agent) creates a rollback plan for the update. 3. RL Researcher (R-B human lead) reviews and signs the update. 4. Gate Engineer (R-A human lead) reviews the update's impact on gate behavior. 5. RA-A6 (Gate Verifier Agent) validates that the update preserves the fail-closed property. 6. Both human leads jointly approve or reject the update through the adoption gate. 7. If approved, RA-A5 (Ethics Universe Agent) incorporates the update. 8. RA-A6 runs post-adoption verification for 48 hours.
No calibration update can bypass this eight-step protocol. The Gate Verifier Agent maintains a complete log of all adoption decisions with evidence bundles.
14.3 緊急オーバーライドプロトコル
極端な状況では、人間のリーダーが緊急オーバーライドを発行して、研究室のゲート エンジンによって管理されるすべてのロボットの動作を即座に停止させることができます。
インターフェイス EmergencyOverride {
発行者: 文字列; // 人間のリード座標
reason: string;
scope: 'single_robot' | 'all_robots' | 'lab_wide';
action: 'halt_all' | 'rollback_to_checkpoint' | 'disable_universe';
targetRobotIds?: string[];
checkpointVersion?: string;
disableUniverseId?: string;
timestamp: number;
expiresAt: number; // Override auto-expires
必要PostIncidentReview: true;
}
緊急オーバーライドは、設定可能な期間 (デフォルト: 4 時間) が経過すると自動的に期限切れになり、インシデント後 24 時間以内にレビューする必要があります。オーバーライドは不変に記録され、どのエージェントも発行することはできません。人間のリードのみがオーバーライド権限を持っています。
15. 数学的基礎のまとめ
このセクションでは、論文全体で開発された主要な数学モデルを統合します。
15.1 ロボットゲートの選択 (制約付き最適化)
This formulation ensures efficiency-optimal action selection within the safety-bounded feasible region. The gate fails closed when the feasible set is empty.
15.2 ConflictScore (Inter-Universe Tension)
Continuous, real-time, and differentiable almost everywhere. The gradient $\nabla_a CS$ provides conflict-aware action selection.
15.3 Ethical Drift (KL-Divergence Monitoring)
Measures the gap between practiced and stated ethical policies. Triggers calibration when $D_{\text{drift}} > \epsilon_{\text{drift}}$.
15.4 Constrained RL (Lagrangian Relaxation)
スレーター条件下での制約付き最適ポリシーへの収束を伴う主双対最適化。
15.5 安全に囲まれた行動空間
アクション マスキングによるハード制約の強制。安全な領域の外では探索を行ってはなりません。
15.6 責任の分解
Normalized influence-based allocation with human responsibility floor for high-risk decisions.
15.7 責任チェーンの集約
意思決定シーケンス全体にわたる事故分析のための反事実ベースの因果重み付け。
15.8 Layered Architecture Composition
Each layer is a function transformer. Layer independence ensures that governance additions never reduce baseline safety.
15.9 Noise-Robust Scoring
Confidence-adjusted scores that bound false-positive rates per SIL requirements.
15.10 Conflict Escalation Rate
陽性率は紛争の激化を示している。負のレートは解像度を示します。予測的な競合回避を有効にします。
16. 結論
Robot Judgment OS Lab は、物理世界の AI ガバナンスに関する基本的な問題に取り組みます。それは、リアルタイム操作、センサー ノイズ、および不可逆的な物理的動作という極端な制約の下で、自律ロボットが責任限定の意思決定を行うことをどのように保証するかということです。
私たちの答えは技術的なものであると同時に組織的なものでもあります。私たちは、11 人の専門エージェントと 5 人のリーダーで構成された 2 部門のラボを設計し、相互に関連する 5 つの研究テーマを中心に組織されています。ラボの成果物は単なるアルゴリズムではなく、ROS2 センサー ドライバーから競合ヒートマップ、責任監査証跡に至るロボット判断のための統合インフラストラクチャです。
5 つの技術的貢献 (ロボット ゲート エンジン、リアルタイム紛争ヒートマップ、身体的倫理校正モデル、人間とロボットの責任プロトコル、階層型ロボット判断アーキテクチャ) は、各コンポーネントが他のコンポーネントを強化する一貫したシステムを形成します。ゲート エンジンは、競合ヒートマップが監視する評価インフラストラクチャを提供します。倫理校正モデルは、ゲート エンジンが制約する学習を提供します。責任プロトコルは、階層化アーキテクチャのログに記録される責任を提供します。
次の 3 つの設計原則によりシステムが統合されます。
1. Multi-Universe separation prevents catastrophic single-objective optimization. 2. Minimax gating ensures that no universe can be sacrificed for another. 3. Human responsibility preservation guarantees that autonomy increases governance rather than replacing it.
The self-referential lab design — where research teams are governed by the infrastructure they develop — creates a productive recursion that compounds governance quality over time. Each research cycle improves the gate engine, which provides better data for the learning agents, which produces better calibration for the ethics evaluators, which strengthens the gate engine further.
The central thesis remains: in the physical world, responsibility-bounded judgment is not a luxury — it is the prerequisite for any robot deployment that claims to be autonomous. A robot that cannot explain its decisions, attribute responsibility for its actions, and halt when uncertain is not autonomous — it is merely uncontrolled.
付録A: MARIA OS Coordinate Assignment
ロボット判定OSラボ：G1.U_RL
--- P1: Team R-A (Robot Gate Architecture Lab)
| --- Z1: Human Leads
| | --- H1: Robotics Architect
| | --- H2: Safety Engineer
| | +-- H3: ゲートエンジニア
| --- Z2: センサーおよびコア ユニバース エージェント
| | --- RA-A1: センサー解釈エージェント
| | --- RA-A2: セーフティ ユニバース エージェント
| | +-- RA-A3: 規制宇宙エージェント
| --- Z3: Optimization & Ethics Agents
| | --- RA-A4: Efficiency Universe Agent
| | +-- RA-A5: 倫理宇宙エージェント
| +-- Z4: 検証
| +-- RA-A6: Gate Verifier Agent
--- P2: Team R-B (Embodied Learning & Conflict Lab)
| --- Z1: Human Leads
| | --- H1: RL Researcher
| | +-- H2: Simulation Engineer
| --- Z2: シミュレーションおよび動作エージェント
| | --- RB-A1: 身体化されたシミュレーションエージェント
| | +-- RB-A2: 行動パターンエージェント
| --- Z3: Conflict & Learning Agents
| | --- RB-A3: Conflict Detection Agent
| | +-- RB-A4: 制約付き RL エージェント
| +-- Z4: ロールバック
| +-- RB-A5: Rollback Design Agent
+-- Shared: Adoption Gate (inter-division, human-approved)
付録B: Database Schema Summary
-- Robot Gate Decision Log
CREATE TABLE robot_gate_decisions (
id UUID PRIMARY KEY,
robot_id TEXT NOT NULL,
coordinate TEXT NOT NULL,
タイムスタンプ TIMESTAMPTZ NOT NULL、
state_hash TEXT NOT NULL,
action_id テキストが NULL ではありません。
決定 TEXT CHECK (決定 IN ('実行', '停止'))、
safety_score REAL NOT NULL、
regulatory_score REAL NOT NULL、
efficiency_score REAL NOT NULL,
ethics_score REAL NOT NULL,
comfort_score REAL NOT NULL,
min_score REAL NOT NULL,
conflict_score REAL NOT NULL、
ノイズレベル REAL NOT NULL、
evaluation_time_ms REAL NOT NULL,
責任_人間 REAL NOT NULL、
responsibility_robot REAL NOT NULL,
responsibility_system REAL NOT NULL,
責任環境 REAL NOT NULL
);
-- 責任記録
CREATE TABLE 責任レコード (
id UUID PRIMARY KEY,
Decision_id UUID NOT NULL REFERENCES robot_gate_decions(id),
rho_human REAL NOT NULL、
rho_robot REAL NOT NULL,
rho_system REAL NOT NULL,
rho_environment REAL NOT NULL、
risk_level TEXT CHECK (risk_level IN ('low','medium','high','critical')),
human_command_active BOOLEAN NOT NULL,
ポリシーバージョンのテキストが NULL ではありません
);
-- 倫理漂流ログ
CREATE TABLE ethical_drift_log (
id UUID PRIMARY KEY,
robot_id TEXT NOT NULL,
タイムスタンプ TIMESTAMPTZ NOT NULL、
kl_divergence REAL NOT NULL,
threshold REAL NOT NULL,
drift_detected BOOLEAN NOT NULL,
影響を受ける_状態 INT NOT NULL、
action_taken TEXT CHECK (action_taken IN ('none','monitor','freeze','rollback')),
policy_version テキストが NULL ではありません。
テキストへのロールバック
);
-- 紛争地帯の歴史
CREATE TABLE 競合ゾーン (
id UUID PRIMARY KEY,
robot_id TEXT NOT NULL,
detected_at TIMESTAMPTZ NOT NULL,
解決済み_at TIMESTAMPTZ、
centroid_x REAL NOT NULL、
centroid_y REAL NOT NULL,
半径 REAL NOT NULL、
avg_conflict_score REAL NOT NULL、
dominant_pair テキストが NULL ではありません、
is_persistent ブール値 NOT NULL、
resolution_action TEXT
);
-- Lab Adoption Gate Decisions
CREATE TABLE lab_adoption_decisions (
id UUID PRIMARY KEY,
update_type TEXT NOT NULL,
source_division TEXT NOT NULL,
target_division TEXT NOT NULL,
professional_by テキストが NULL ではありません、
承認済み_BY TEXT[]、
決定テキストチェック (決定 IN ('承認','拒否','延期'))、
evidence_bundle_hash テキストが NULL ではありません、
rollback_plan JSONB NOT NULL、
created_at TIMESTAMPTZ DEFAULT now()、
TIMESTAMPTZ で採用されました
);
付録C: Mathematical Notation Reference
|記号 |意味 |
| --- | --- |
| $a^*$ |ゲートエンジンが選択する最適なアクション |
| $U_i(a)$ | Score assigned by universe $i$ to action $a$ |
| $\tau_i$ | Minimum acceptable threshold for universe $i$ |
| $CS(a, t)$ |時刻 $t$ におけるアクション $a$ の競合スコア |
| $w_{ij}$ | Importance weight for conflict between universes $i$ and $j$ |
| $D_{\text{drift}}(t)$ | Ethical drift metric (average KL-divergence) at time $t$ |
| $\pi_{\text{practiced}}$ | Robot's actual behavioral policy |
| $\pi_{\text{記載}}$ |意図された倫理ポリシーの仕様 |
| $\epsilon_{\text{drift}}$ | Maximum allowable ethical drift |
| $\mathcal{S}_{\text{クリティカル}}$ |倫理的に敏感な状態のセット |
| $R(d)$ | Four-factor responsibility vector at decision node $d$ |
| $\rho_H、\rho_R、\rho_S、\rho_E$ |人間、ロボット、システム、環境の責任分担 |
| $\rho_{\text{分}}$ |人間の責任フロア (リスク依存) |
| $\Sigma_t$ | Sensor noise covariance matrix at time $t$ |
| $\alpha_i$ | Acceptable false-positive rate for universe $i$ |
| $m_i(\Sigma_t)$ | Noise margin for universe $i$ given noise level $\Sigma_t$ |
| $\hat{s}_t$ | Noisy observed state at time $t$ |
| $\tilde{U}_i$ | Confidence-adjusted universe score |
| $\mathcal{A}_{\text{safe}}(s)$ |状態 $s$ | の安全境界アクション スペース
| $\ラムダ_k$ |倫理的制約のラグランジュ乗数 $k$ |
| $g_k$ |倫理的制約コスト関数 $k$ |
| $c_k$ |制約 $k$ の最大許容累積コスト |
| $\mathcal{J}$ | Complete layered judgment system $L_4 \circ L_3 \circ L_2 \circ L_1$ |
| $\ドット{CS}$ | ConflictScore の時間導関数 (エスカレーション率) |
| $\theta_{\text{persist}}$ | Persistent conflict zone detection threshold |
付録D: Agent Capability Matrix
| Agent ID | Division | Inputs | Outputs | WCET Constraint | Fail Mode |
| --- | --- | --- | --- | --- | --- |
| RA-A1 | R-A | Raw sensor streams | Fused state, $\Sigma_t$ | 1.0ms | Use last valid state |
| RA-A2 | R-A |融合状態、アクション |安全スコア | 2.0ミリ秒 |スコア = 0 (停止) |
| RA-A3 | R-A |融合状態、アクション |規制スコア | 1.5ミリ秒 |スコア = 0 (停止) |
| RA-A4 | R-A |融合状態、アクション |効率スコア | 1.0ミリ秒 |スコア = 0 (停止) |
| RA-A5 | R-A |融合状態、アクション |倫理スコア | 1.5ミリ秒 |スコア = 0 (停止) |
| RA-A6 | R-A |ゲートの決定、ログ |検証レポート |非RT |人間のリードに警告 |
| RB-A1 | R-B | Scenario config | Simulated episodes | Non-RT | Retry with fallback |
| RB-A2 | R-B | Behavior logs | Drift metrics, patterns | Non-RT | Alert RL Researcher |
| RB-A3 | R-B | Universe scores | Conflict heatmap | 100ms | Use last valid map |
| RB-A4 | R-B | Training data | Updated policy | Non-RT | Freeze current policy |
| RB-A5 | R-B |ドリフト警報 |ロールバック計画 |非RT |緊急停止 |
付録E: Glossary
|用語 |定義 |
| --- | --- |
| CMDP |制約付きマルコフ決定プロセス — 予想される累積コストを制限する追加の制約関数を備えた MDP |
|競合スコア |宇宙間の緊張を測定する、宇宙スコア間の絶対差の加重和。
| DDS |データ配信サービス — ROS2 の基盤となる通信ミドルウェア |
|倫理的漂流 | KL ダイバージェンスによって測定される、ロボットの明示された倫理的制約と実際の行動の間の乖離。
|フェールクローズ |不確実性またはエラーの結果、許可ではなくブロック (停止) が発生するシステム プロパティ |
| Gate Engine | The real-time evaluation and decision component that applies multi-universe thresholds to action candidates |
| HIL | Hardware-in-the-Loop — testing with real hardware but simulated environments |
| Minimax Gate | Gate formulation where the minimum universe score must exceed a threshold (no averaging, no compensation) |
| Multi-Universe | Parallel evaluation dimensions through which every action candidate must pass |
|永続的な紛争地帯 |時間平均された ConflictScore が持続性のしきい値を超える空間領域 |
|責任ベクトル |意思決定責任を分解する 4 要素ベクトル $[\rho_H, \rho_R, \rho_S, \rho_E]$ |
| ROS2 |ロボット オペレーティング システム 2 — ロボット システム用のオープンソース ミドルウェア フレームワーク |
|安全に制限されたアクションスペース |すべての厳しい安全制約を満たすアクションに制限された完全なアクション スペースのサブセット。
|シル |安全度レベル — 安全システムの信頼性要件の IEC 61508 分類 |
| WCET |最悪の場合の実行時間 — 解析によって保証される、計算にかかる最大時間。