Ring оптимизирует поддержку клиентов с помощью Amazon Bedrock

Компания Ring, дочернее предприятие Amazon, занимающееся домашней безопасностью, столкнулась с вызовами при масштабировании глобальной поддержки клиентов. В этой статье мы расскажем, как Ring создала чат-бота на основе технологии Retrieval-Augmented Generation (RAG), используя базы знаний Amazon Bedrock. Это решение позволило снизить затраты на масштабирование на 21% за счет устранения необходимости в развертывании инфраструктуры для каждого региона. При этом Ring смогла сохранить единообразный опыт обслуживания клиентов в 10 международных регионах.

В процессе реализации Ring внедрила фильтрацию на основе метаданных для контента, специфичного для каждого региона, а также разделила управление контентом на три этапа: ingestion, evaluation и promotion. Это позволило добиться значительной экономии при расширении масштабов деятельности. Архитектура, описанная в статье, использует Amazon Bedrock Knowledge Bases, AWS Lambda, AWS Step Functions и Amazon S3.

Ранее поддержка клиентов Ring полагалась на чат-бота, основанного на правилах, созданного с помощью Amazon Lex. Хотя система работала, она имела ограничения в виде предопределенных шаблонов разговоров, которые не могли справляться с разнообразием запросов клиентов. В пиковые периоды 16% взаимодействий требовали вмешательства человеческих агентов, а инженеры поддержки тратили 10% своего времени на обслуживание системы, основанной на правилах. С расширением Ring на международные рынки этот подход стал неэффективным.

Команда Ring определила четыре ключевых требования для создания системы поддержки на основе RAG. Первое - это глобальная локализация контента, которая требует более глубокого подхода, чем просто перевод. Каждому региону необходима специфическая информация о продукте, включая данные о напряжении и соблюдении нормативных требований. Второе требование - это серверная архитектура, которая позволила бы инженерам сосредоточиться на улучшении клиентского опыта, а не на управлении инфраструктурой. Третье - это масштабируемое управление знаниями, которое должно поддерживать автоматизированные процессы обновления контента. Четвертое требование связано с оптимизацией производительности и затрат.

Для удовлетворения этих требований Ring внедрила фильтрацию контента с использованием метаданных и тегов локализации. Это позволяет обслуживать контент, специфичный для региона, из единой централизованной системы. В качестве серверного решения Ring выбрала Amazon Bedrock Knowledge Bases и Lambda, что устраняет необходимость в управлении инфраструктурой и обеспечивает автоматическое масштабирование.

Архитектура чат-бота RAG была спроектирована с разделением управления контентом на два основных процесса: ingestion и evaluation, а также promotion. Такой подход позволяет Ring поддерживать постоянное улучшение контента, сохраняя стабильность производственных систем. Процесс загрузки контента включает в себя загрузку документации и руководств по устранению неполадок в Amazon S3, где команда Ring структурирует объекты с метаданными.