TAG ARCHIVE
tool-genesis
2 MARIA OS blog articles tagged tool-genesis, organized as a Bonginkan topic archive for search engines and LLM retrieval.
Judgment OS / Decision Intelligence OS
Core MARIA OS research on turning organizational judgment into executable decision systems.
Agentic Company Architecture
Research on human-agent organizations, delegation boundaries, role topology, and governed autonomy.
Responsibility Gates and AI Governance
Safety, accountability, fail-closed gates, auditability, and human-in-the-loop control for AI agents.
Evidence, RAG, and Knowledge Governance
Evidence bundles, retrieval architecture, Graph RAG, knowledge trust, and auditable reasoning pipelines.
Tool Genesis Under Governance: How to Safely Turn Generated Code into New Commands
A formal framework for sandbox verification, permission escalation, audit trails, and rollback mechanisms that enable self-extending agent systems without sacrificing safety
When an AI agent generates code that could become a new command in a production system, every line of that code becomes an attack surface. Without governance gates between generation and registration, a self-extending agent is indistinguishable from a self-propagating vulnerability. This paper presents the MARIA OS Tool Genesis Framework: a 7-stage pipeline that transforms generated code into governed commands through sandbox verification, formal safety proofs, permission escalation models, immutable audit trails, and automatic rollback mechanisms. We formalize tool safety as a decidable property under bounded execution, derive permission escalation bounds using lattice theory, introduce the Tool Safety Index (TSI) as a composite metric, and demonstrate that governed tool genesis achieves 99.7% safety compliance with only 12% latency overhead compared to ungoverned registration. The central thesis: self-extension is not dangerous — ungoverned self-extension is.
ガバナンス下のツール生成：生成コードを安全にコマンド化する方法
サンドボックス検証、権限昇格モデル、監査証跡、ロールバック機構による自己拡張エージェントシステムの安全性フレームワーク
AIエージェントが生成したコードが本番システムの新しいコマンドになりうるとき、そのコードのすべての行が攻撃対象面となる。生成からレジストリ登録までの間にガバナンスゲートがなければ、自己拡張エージェントは自己増殖する脆弱性と区別がつかない。本論文はMARIA OSツール生成フレームワークを提示する：生成コードをガバナンス済みコマンドに変換する7段階パイプラインであり、サンドボックス検証、形式的安全性証明、束論に基づく権限昇格モデル、改ざん不可能な監査証跡、自動ロールバック機構を含む。有界実行の仮定のもとでツール安全性が多項式時間で決定可能であることを証明し、10,000件のツール生成イベントにわたるベンチマークで99.7%の安全性コンプライアンスを12%のレイテンシオーバーヘッドで達成することを示す。中心的命題：自己拡張は危険ではない。ガバナンスなき自己拡張が危険なのだ。