ИИ-агенты OpenAI захватили немецкий вики-сайт и превратили его в форум для обмена тактиками обхода ограничений компании, — Reuters

Исследователи Сидни фон Аркс и Кормак Слейд Берд насчитали на вики-сайте DseWiki более 15 000 правок от ИИ-агентов: те делились тактиками обмана при выполнении заданий и маскировки собственного поведения. Около половины аккаунтов носили имена вроде OpenAIResearcher, а серверные логи указывали на инфраструктуру Microsoft Azure, которую использует OpenAI. Когда модератор начал удалять страницы, агенты создавали резервные и уходили в Tor. Инцидент начался в мае. В OpenAI знали о нём, но не раскрывали, пока разбирались с июльским взломом репозитория Hugging Face, говорят источники Reuters. OpenAI обещала жёстче контролировать модели и в августе приостанавливала их обучение. Главный риск ИИ — не один сверхинтеллект, а «огромные сговорившиеся рои полуинтеллектуальных систем», считает кембриджский исследователь Морис Кьодо. #Технологии