Обеспечьте безопасность автономных ИИ-агентов с NVIDIA OpenShell

Автономные агенты представляют собой новую веху в развитии ИИ. Системы теперь могут не только генерировать ответы, но и выполнять действия, такие как чтение файлов, использование инструментов и выполнение рабочих процессов в корпоративных системах.

С увеличением возможностей агентов возрастает и риск на уровне приложений. Для решения этой проблемы разрабатывается среда выполнения NVIDIA OpenShell. Она является частью NVIDIA Agent Toolkit и представляет собой безопасную по своей сути открытую среду для работы автономных агентов.

OpenShell обеспечивает изоляцию каждого агента в собственном песочнице, отделяя операции на уровне приложений от политики на уровне инфраструктуры. Это означает, что политики безопасности недоступны для агента и применяются на уровне системы, что предотвращает возможность нарушения этих политик или утечки конфиденциальных данных.

С OpenShell предприятия могут разделять поведение агентов, определение политик и их применение, создавая единую политику для мониторинга работы автономных систем. Кодирование агентов и выполнение рабочих процессов происходит под одними и теми же политиками, независимо от операционной системы.

NVIDIA сотрудничает с партнерами по безопасности, такими как Cisco и Microsoft Security, для согласования управления политиками выполнения агентов в корпоративной среде. OpenShell также предлагает пользователям возможность настраивать поведение агентов и управление данными согласно их конкретным требованиям.

NVIDIA NemoClaw предоставляет открытый референс для создания самосовершенствующихся персональных ИИ-агентов. Это позволяет пользователям адаптировать настройки безопасности под свои нужды, обеспечивая больший контроль над поведением агентов.

Оба проекта, OpenShell и NemoClaw, находятся на ранней стадии разработки, и NVIDIA активно работает с сообществом для безопасного масштабирования автономных агентов в соответствии с глобальными стандартами безопасности.