TAG ARCHIVE
MARIA OSブログのethical-memoryタグに関連する1件の記事。ボンギンカンの判断OS、AIガバナンス、Agentic Company研究をテーマ別に参照しやすい技術記事アーカイブです。
判断OS / 決断インテリジェンスOS
組織の判断を実行可能な意思決定システムに変換するMARIA OS中核研究。
責任ゲートとAIガバナンス
AIエージェントの安全性、説明責任、フェイルクローズドゲート、監査可能性、HITL制御。
エビデンス、RAG、ナレッジガバナンス
エビデンスバンドル、検索アーキテクチャ、Graph RAG、ナレッジトラスト、監査可能な推論パイプライン。
倫理を固定ルールではなく、学習可能で進化可能なシステム特性として設計する
責任拡張報酬と倫理記憶を組み込んだ制約付きRLにより、安全不変量を守りながら価値適応を行う。文化差分や倫理負荷を含む運用指標を導入し、長期安定性を評価する。