プロンプトインジェクション
要約済み 2
-
openai-news 21日前 3OpenAI、AI安全性バグバウンティを開始Introducing the OpenAI Safety Bug Bounty program
OpenAIはAIの悪用・安全リスクを研究者が報告できる「Safety Bug Bounty」プログラムを立ち上げた。 エージェント的脆弱性・プロンプトインジェクション・データ漏洩などが報奨金対象となる。 セキュリティ研究者の知見をAI安全性強化に活かす仕組みが業界標準として広まる可能性がある。
-
openai-news 1ヶ月前 3OpenAI、AIエージェントのプロンプトインジェクション対策手法を公開Designing AI agents to resist prompt injection
OpenAIがChatGPTエージェントをプロンプトインジェクション攻撃から守る設計手法を公開。 リスクの高い操作の制限・機密データ保護・ソーシャルエンジニアリング耐性が柱。 エージェント開発者にとって実装指針となる安全設計のベストプラクティス集として注目。