Amazon Bedrock внедряет новые возможности для взаимодействия с агентами

1 просмотров Источник
Amazon Bedrock внедряет новые возможности для взаимодействия с агентами

Amazon Bedrock представил новые возможности для состояния клиентов MCP на платформе AgentCore Runtime, которые позволяют реализовать интерактивные многоходовые рабочие процессы агентов, ранее невозможные с использованием статeless реализаций. Разработчики, создающие ИИ-агентов, часто сталкиваются с трудностями, когда их рабочие процессы должны приостанавливаться для получения уточнений от пользователей, запроса контента, сгенерированного языковой моделью (LLM), или предоставления обновлений в реальном времени во время длительных операций. Статeless серверы MCP не могут справиться с такими сценариями.

С введением трех новых возможностей, соответствующих спецификации MCP, эти ограничения были устранены. Возможности включают: Элицитация (запрос пользовательского ввода во время выполнения), Сэмплинг (запрос контента, сгенерированного LLM, от клиента) и Уведомление о прогрессе (потоковые обновления в реальном времени). Эти функции преобразуют одностороннее выполнение инструментов в двусторонние беседы между сервером MCP и клиентами.

Протокол контекста модели (MCP) является открытым стандартом, определяющим, как приложения LLM соединяются с внешними инструментами и источниками данных. Спецификация определяет возможности сервера (инструменты, подсказки и ресурсы, которые серверы предоставляют) и возможности клиента (функции, которые клиенты предлагают серверам). В то время как предыдущий релиз сосредоточился на размещении статeless серверов MCP на AgentCore Runtime, эта новая возможность завершает реализацию двустороннего протокола.

Клиенты, подключающиеся к серверам MCP, размещенным на AgentCore, теперь могут отвечать на запросы, инициированные сервером. В этой статье вы узнаете, как создать stateful серверы MCP, которые запрашивают пользовательский ввод во время выполнения, вызывают LLM-сэмплинг для динамической генерации контента и потоково обновляют прогресс для длительных задач. Вы увидите примеры кода для каждой возможности и развернете работающий stateful сервер MCP на Amazon Bedrock AgentCore Runtime.

Ранее поддержка серверов MCP на AgentCore использовала статeless режим, где каждый входящий HTTP-запрос был независимым, без общего контекста между вызовами. Этот подход легко развернуть и понять, и он хорошо работает для серверов инструментов, которые принимают входные данные и возвращают выходные данные. Однако он имеет фундаментальное ограничение: сервер не может поддерживать нить разговора между запросами, запрашивать у пользователя уточнения в середине вызова инструмента или сообщать о прогрессе клиенту во время работы.

Похожие статьи