エージェント監視
要約済み 1
-
openai-news 27日前 4OpenAI、社内AIエージェントの思考監視システムを公開How we monitor internal coding agents for misalignment
OpenAIが社内コーディングエージェントの不整合検出に向け、思考連鎖（CoT）監視の手法を詳報。 実運用環境での展開を通じ、AIの意図しない挙動やリスクをリアルタイムで特定する仕組みを紹介。 AI安全性の実践的アプローチとして、エージェント開発・運用現場に直接役立つ知見を提供。