AIフロントライン

公式ソースだけを集めたAIニュースを日本語要約でお届け

anthropic-news 2025-12-17 15:00 ★3

Anthropic、Claudeに危機検出AIを実装

Protecting the wellbeing of our users

Anthropic AI安全性 ユーザー保護

要約

AnthropicがClaudeに自殺・自傷の危機検出分類器を導入し、170カ国以上のホットライン連携バナー機能を公開。 Opus 4.5は単一ターンで98.6%の精度で危機対応に成功し、過度な同意(シコファンシー)も大幅削減を達成。 AIの安全・倫理設計の新基準となる可能性があり、業界全体のユーザー保護指針に影響を与えそうだ。