Использование конструкций human-in-the-loop в здравоохранении и науке о жизни

В здравоохранении и науке о жизни ИИ-агенты помогают организациям обрабатывать клинические данные, подавать регуляторные заявки, автоматизировать медицинское кодирование и ускорять разработку и коммерциализацию лекарств. Однако чувствительный характер медицинских данных и требования к соблюдению норм, таких как GxP, требуют человеческого контроля на ключевых этапах принятия решений. Именно здесь конструкции human-in-the-loop (HITL) становятся необходимыми.

Организации в области здравоохранения и науки о жизни сталкиваются с уникальными проблемами при развертывании ИИ-агентов. Во-первых, соблюдение регуляторных норм — правила GxP требуют человеческого контроля для чувствительных операций. Например, удаление записей пациентов или изменение протоколов клинических испытаний не может быть выполнено без документированного разрешения. Во-вторых, безопасность пациентов — медицинские решения, влияющие на уход за пациентами, должны иметь клиническую валидацию перед выполнением. В-третьих, требования аудита — системы здравоохранения нуждаются в полной прослеживаемости действий и времени их утверждения. Наконец, чувствительность данных — защищенная медицинская информация (PHI) требует явного разрешения перед доступом или изменениями.

Конструкции HITL обеспечивают необходимые контрольные точки, сохраняя при этом эффективность автоматизации, чтобы удовлетворить эти требования. Мы представляем четыре взаимодополняющих подхода к внедрению HITL в агентные рабочие процессы. Каждый рабочий процесс подходит для различных сценариев и профилей рисков, как описано в нашем руководстве по созданию ИИ-агентов в GxP-средах.

Эти паттерны строятся с использованием фреймворка Strands Agents, Amazon Bedrock AgentCore Runtime и протокола Model Context Protocol (MCP) с примерами кода, которые вы можете адаптировать для своих случаев использования. Первый подход — это перехват вызовов инструментов на уровне агентного цикла, который обеспечивает политику HITL. Второй подход — логика одобрения human-in-the-loop может быть внедрена непосредственно в логику инструмента для более детального контроля.

Третий подход позволяет отправлять запрос на одобрение в стороннюю систему или к третьему лицу асинхронно, продолжая работу агента в фоновом режиме. Четвертый подход использует недавно введенный протокол elicitation для запроса дополнительной информации от пользователей во время взаимодействия. Архитектура решения использует фреймворк Strands Agents для управления жизненным циклом агентов и обработки прерываний, развернутых на Amazon Bedrock AgentCore Runtime для безсерверной масштабируемости и изоляции сессий.