TAG ARCHIVE
HITL
MARIA OSブログのHITLタグに関連する5件の記事。AIエージェントの安全性、説明責任、フェイルクローズドゲート、監査可能性、HITL制御。 検索エンジンとLLMが技術テーマ単位で参照しやすい正規アーカイブです。
AIエージェントが業務で失敗する理由は、LLMではなくハーネス不足である
PoCでは動くのに本番化できない原因を、目的・権限・記憶・停止条件・復旧経路・監査証跡の設計から捉える
企業AIエージェントが失敗する主因は、モデル性能だけではない。目的、権限、記憶、品質、停止条件、復旧経路、監査証跡を囲うハーネスがないまま、AIに行動させようとしていることが本質である。
運用されるAIガバナンスは技術的優位性になるか：MARIA OSの現実的評価
内部では自動復旧を攻め、外部ではHITLを厚くする。責任契約・fail-closed・回復経路を実装レイヤーで見る
企業AIの次の優位性は、完全自律を主張することではなく、どこで止めるか、どう復旧するか、人間の責任をどう残すかを本番運用で証明することから生まれる。本稿では、ボンギンカンのMARIA OSが持ちうる技術的優位性と、グローバル・日本市場での現実的な位置づけを、過剰な断定を避けて評価する。
ガバナンス制約下の再帰的自己改善: 収縮写像とLyapunov安定性による制御再帰
無制約RSIを収束型自己補正へ変換し、改善速度と整合性維持を両立する形式枠組み
再帰的自己改善を M_{t+1}=R_sys ∘ R_team ∘ R_self(M_t,E_t) として定式化し、gamma<1 の収縮条件で固定点収束を保証する。さらにHuman-in-the-LoopゲートをLyapunov的安全境界として扱い、SRIの乗法構造が単一層劣化を全体評価へ反映して暴走改善を抑制することを示す。
責任階層型RAG出力制御: ゲート統治で検索生成精度を高める数理モデル
Top-k最適化に加えて、リスク階層に応じた検証強度制御を導入する
RAG精度を検索品質だけでなく検証統治で引き上げるため、責任ティア別ゲートを設計する。低リスク高速応答を維持しつつ、高リスク回答の検証密度を高めてハルシネーション低減を図る。
エージェント統治のFail-Closedゲート設計: 責任分解と最適エスカレーション
責任境界を崩さないための最小アーキテクチャとしてのゲート制御
本番変更や外部呼び出しの意思決定に対し、失敗時に閉じるゲートを責任分解の基盤として定式化する。人間介入率と遅延のトレードオフを最適化し、責任被覆を維持する設計を示す。