OpenAI、AI安全性バグバウンティを開始
Introducing the OpenAI Safety Bug Bounty program
OpenAI
バグバウンティ
AIセキュリティ
プロンプトインジェクション
要約
OpenAIはAIの悪用・安全リスクを研究者が報告できる「Safety Bug Bounty」プログラムを立ち上げた。
エージェント的脆弱性・プロンプトインジェクション・データ漏洩などが報奨金対象となる。
セキュリティ研究者の知見をAI安全性強化に活かす仕組みが業界標準として広まる可能性がある。
無料登録でニュースレターを受け取る
毎週AIニュースのTop5をお届けします(無料)
無料登録 →
Proプランで深掘り分析・全アーカイブを読む
月額300円 / 年額2,400円 / Founding Member 5,000円(買い切り)
Proプランを見る →
原文を読む →
https://openai.com/index/safety-bug-bounty