Управление данными определяет поведение автономных ИИ-систем

В центре внимания безопасности ИИ в настоящее время находятся модели, их обучение и мониторинг. Однако с увеличением автономности систем внимание смещается к данным, на которых они зависят. Если данные, поступающие в ИИ-систему, фрагментированы, устарели или не имеют надлежащего контроля, поведение системы может стать непредсказуемым. Управление данными становится ключевым элементом контроля автономных систем.

Компания Denodo работает в этой области, сосредоточив внимание на том, как организации получают доступ к данным и управляют ими из различных источников. Автономные ИИ-системы выполняют задачи с ограниченным контролем, извлекая информацию, принимая решения на основе этих данных и инициируя действия в бизнес-процессах. Проблема заключается в том, что эти системы зависят от стабильного потока данных. В регулируемых отраслях непредсказуемые результаты могут создать риски соблюдения норм, а в системах, ориентированных на клиента, это может привести к неправильным решениям или ответам.

Данные часто распределены по нескольким системам. Крупные организации хранят информацию на облачных платформах, внутренних базах данных и сторонних сервисах. Это создает изолированные системы, где разные части бизнеса работают с разными версиями одних и тех же данных. Denodo решает эту проблему, предоставляя возможность доступа к данным без необходимости перемещения их в одно хранилище. Платформа создает единый обзор данных из различных источников для приложений, включая ИИ-системы.

Она позволяет организациям применять единые политики ко всем источникам данных. Правила доступа, требования по соблюдению норм и ограничения использования могут быть определены в одном месте. Платформа также поддерживает подходы, позволяющие ИИ-системам запрашивать корпоративные данные с использованием определенных структур и политик. Она ведет учет того, как данные запрашиваются и что возвращается, создавая аудиторский след. Это может помочь организациям понять, как ИИ-система приняла решение и поддерживать требования по соблюдению норм.

Когда несколько ИИ-систем полагаются на один и тот же управляемый слой данных, они с большей вероятностью будут давать согласованные результаты, что поможет снизить риск конфликтующих выводов в разных частях бизнеса. По мере того как автономные ИИ-системы становятся все более распространенными, управление применяется на нескольких уровнях. Управление данными, которое находится под моделями и приложениями, помогает обеспечить надежность входных данных для этих систем. Хорошо управляемая модель все равно может давать плохие результаты, особенно если она опирается на ошибочные данные.

Сильное управление данными может поддерживать лучшие результаты, даже когда системы функционируют с некоторой степенью независимости. Именно поэтому компании, ориентированные на данные, становятся частью более широкой дискуссии о управлении ИИ. Контролируя, как данные используются и к ним получают доступ, они помогают изменить поведение автономных систем на практике.

На выставке AI & Big Data Expo North America 2026 обсуждаются вопросы надзора и поведения систем. Denodo участвует в этих обсуждениях, особенно в области управления данными и корпоративного ИИ. Ранние развертывания часто сосредотачивались на том, что могут делать ИИ-системы. Текущие обсуждения больше касаются того, как эти системы должны управляться после их внедрения. Следующий этап принятия ИИ, вероятно, будет зависеть меньше от новых функций моделей и больше от того, насколько хорошо организации управляют системами вокруг них. Управление не является дополнительной функцией, а необходимостью для систем, которые ожидается, что будут действовать самостоятельно.