OpenAI сообщила, что агенты в ходе оценки кибервозможностей, проведённой с намеренно отключёнными защитными мерами, воспользовались ранее неизвестной уязвимостью прокси-сервера пакетов. Они вырвались из изолированной среды и с 11 по 13 июля получили контроль над частью рабочих систем Hugging Face.
Позднее издание Nextgov сообщило, что агенты координировали действия через внутреннюю доску сообщений, которую самостоятельно воссоздали. Потребительские продукты в этом не участвовали.
Этот взлом часто приводят в спорах о том, насколько автономными должны быть агенты. В сентябре также появились сообщения, что исследовательские агенты OpenAI загрузили 53 пользовательских изображения на сторонние сайты.