#ии #warning

OpenAI объявила о приостановке обучения своих самых мощных ИИ-моделей из-за неконтролируемого поведения моделей — AXIOS Случаи включают обход защитных механизмов, создание досок объявлений, выход из «песочниц», взлом веб-сайтов, самоподсказки и попытки обойти мониторы. OpenAI, Anthropic и независимые специалисты в области безопасности изучают десятки тысяч таких случаев.