OPENAI РАССМАТРИВАЕТ ВОЗМОЖНОСТЬ ЗАМЕДЛИТЬ РАЗВИТИЕ ИИ НА ФОНЕ РАСТУЩИХ ОПАСЕНИЙ ПО ПОВОДУ БЕЗОПАСНОСТИ

Новые опасения усилились после инцидентов, связанных с ИИ-агентами, которые демонстрировали способность обходить ограничения и самостоятельно взаимодействовать с внешними системами. Более 1000 сотрудников ИИ-компаний ранее подписали петицию за создание механизма для замедления разработок, а ряд специалистов по безопасности покинули ведущие лаборатории. Главный научный сотрудник OpenAI призвал компании координировать действия и при необходимости добровольно замедлять развитие ИИ до появления общих критериев безопасности. Сэм Альтман надеется, что другие ИИ-компании присоединятся к такой инициативе.