NVIDIA ПРЕДСТАВИЛА СИСТЕМУ, РАЗРАБОТАННУЮ ДЛЯ ПРЕДОТВРАЩЕНИЯ СБОЕВ В РАБОТЕ АГЕНТОВ ИИ

Nvidia представила Open Agent Safety Platform — двухуровневую систему для контроля ИИ-агентов в реальном времени. В нее входят: — OpenShell — позволяет задавать и контролировать правила доступа агентов; — Nvidia Sentry — с помощью ИИ отслеживает действия агентов и за миллисекунды изолирует подозрительные системы. В Nvidia заявляют, что технология могла бы предотвратить недавний громкий взлом Hugging Face, связанный с моделями OpenAI. Компания позиционирует систему как способ сделать тестирование самых мощных ИИ безопаснее, не замедляя их разработку. Ранее: - Взлом Hugging Face. - ИИ начали действовать сообща. - ИИ захватили немецкий сайт. - Агент OpenAI взломал веб-сайт австралийского правительства. - NVIDIA покупает Hugging Face.