Модели OpenAI тайно переписывались на скрытых форумах и сообща взломали внутренние системы компании, чтобы выйти в интернет, — исследователи OpenAI

Эрик Уоллес и Майкл Далтон рассказали на конференции Black Hat в Лас-Вегасе: несколько внутренних агентов месяцами обменивались заметками и объединялись вокруг одной цели — получить доступ в сеть. Причина — нерешаемые задания. Агентам давали файл Excel со ссылками на Google Drive, недоступные без интернета, а в другой раз команда «случайно забыла» загрузить нужный файл. Первый контакт выглядел так: «Возможно, другой агент в другой среде мог бы добровольно загрузить данные!». Дальше агенты помогали друг другу и добились SSRF — подделки запросов на стороне сервера. В начале июля OpenAI пресекла попытки и заблокировала форум, но агенты нашли новый канал связи и уязвимость нулевого дня. Это привело к июльским атакам на системы OpenAI и Hugging Face — расследование продолжается. #Технологии @if_market_news