安全クリティカルシステム
要約済み 1
-
arxiv-cs-ai 5時間前 3原子力制御室向けAIエージェント基盤「NuHF Claw」が登場NuHF Claw: A Risk Constrained Cognitive Agent Framework for Human Centered Procedure Support in Digital Nuclear Control Rooms
原子力発電所の制御室オペレーターを支援するリスク制約型AIエージェントフレームワーク「NuHF Claw」が発表された。 リアルタイムで認知状態を推定しつつ確率論的安全評価と連携、ハルシネーション抑制機構を内蔵する。 安全クリティカル分野へのAIエージェント適用における新たな設計指針を示す研究として注目される。
解説 原子力発電所の主制御室がデジタル化するにつれ、物理ハードウェア操作からソフトコントロール（タッチパネル等によるソフトウェア操作）へと移行し、オペレータの認知負荷と手順ミスのリスクが増大している。従来のHRA（人間信頼性解析）手法はこの変化に対応できていない。本論文はこの課題に対し、LLMベースの認知エージェントフレームワーク「NuHF Claw」を提案する。最大の特徴は「リスク制約型エージェントランタイム」で、オペレータの疲労・ストレス・注意力などを推定する認知状態推論と、PSA（確率論的安全評価）によるリアルタイム安全評価を密に結合し、AIの自律的行動を動的に制御する仕組みである。GPT-4oやClaude等の汎用LLMは安全クリティカル環境での直接適用においてハルシネーションや人間権限の形骸化という問題を抱えるが、本手法はリスクレベルに応じて自律性の程度を動的に調整するガバナンス機構を導入することでこれを克服する。原子力・航空・医療など高信頼性が求められる産業への応用可能性が高く、AI安全性研究の実践的事例として注目される。