GPT-Red:释放自我完善的稳健性

原文出处: OpenAI Blog (openai.com)

原文链接: https://openai.com/index/unlocking-self-improvement-gpt-red

内容摘要

探索 OpenAI 的自动化红队系统 GPT-Red,该系统使用自我对弈来提高 AI 安全性、对齐和提示注入的稳健性。