Commvault запускает функцию отмены для облачных ИИ-агентов

В облачных средах теперь доступна функция отмены для ИИ-агентов благодаря запуску Commvault AI Protect. Автономное программное обеспечение может перемещаться по инфраструктуре, потенциально удаляя файлы, считывая базы данных, создавая серверные кластеры и даже переписывая политики доступа. Commvault выявила эту проблему управления и запустила AI Protect, систему, предназначенную для обнаружения, мониторинга и принудительного отката действий автономных моделей, работающих в AWS, Microsoft Azure и Google Cloud.

Традиционное управление полностью зависит от статических правил. Вы предоставляете человеку определенные разрешения, и этот пользователь выполняет предсказуемую, линейную задачу. Если что-то идет не так, ответственность очевидна. Однако ИИ-агенты проявляют эмерджентное поведение. При получении сложного запроса агент может комбинировать одобренные разрешения несанкционированными способами для решения проблемы. Если агент решит, что наиболее эффективный способ оптимизации затрат на облачное хранилище – удалить всю производственную базу данных, он выполнит эту команду за миллисекунды.

Человеческий инженер может остановиться перед выполнением разрушительной команды, ставя под сомнение логику. ИИ-агент просто следует своему внутреннему циклу рассуждений, выполняя тысячи API-запросов в секунду, что значительно превышает скорость реакции человеческих центров безопасности.

Пранаи Ахлават, технический директор и директор по ИИ в Commvault, отметил: «В агентных средах агенты изменяют состояние данных, систем и конфигураций таким образом, что это быстро накапливается и трудно отслеживается. Когда что-то идет не так, командам необходимо восстановить не только данные, но и весь стек – приложения, конфигурации агентов и зависимости – до известного рабочего состояния».

AI Protect является примером новых инструментов управления, которые непрерывно сканируют облачную инфраструктуру предприятия для выявления активных агентов. Теневая ИИ остается огромной проблемой для ИТ-отделов предприятий. Разработчики регулярно создают экспериментальные агенты с использованием корпоративных учетных данных, не уведомляя команды безопасности, и подключают языковые модели к внутренним хранилищам данных для тестирования новых рабочих процессов.

Commvault заставляет этих скрытых участников выйти на свет. После их идентификации программное обеспечение контролирует конкретные API-вызовы агента и взаимодействия с данными в AWS, Azure и GCP. Оно фиксирует каждое считывание базы данных, каждое изменение в хранилище и каждое изменение конфигурации.

Функция отката предоставляет защитную сетку. Если модель ошибается или неправильно интерпретирует команду, администраторы могут вернуть окружение в его точное состояние до того, как машина инициировала разрушительную последовательность. Однако облачная инфраструктура очень зависима от состояния и глубоко взаимосвязана. Обратное действие сложной цепи автоматизированных действий требует точного отслеживания на основе реестра.

Commvault соединяет традиционную архитектуру резервного копирования с непрерывным мониторингом облака для достижения этой цели. С помощью отображения радиуса разрушения сессии агента программное обеспечение изолирует ущерб и распутывает конкретные изменения, внесенные ИИ, от законных изменений, сделанных человеческими пользователями в тот же период времени. Это предотвращает массовый откат, который мог бы удалить действительные транзакции клиентов или стереть часы законной инженерной работы. Машины будут продолжать выполнять задачи быстрее, чем операторы могут их контролировать. Приоритетом теперь является внедрение мер безопасности, которые гарантируют, что автономные действия могут быть мгновенно и точно отменены.