Оптимизация затрат на ИИ с помощью Amazon Bedrock Projects

С увеличением масштабов использования ИИ на платформе Amazon Bedrock становится критически важным понимать, что влияет на затраты. Команды могут столкнуться с необходимостью проведения перерасчётов, анализа скачков затрат и принятия решений по оптимизации, что требует атрибуции затрат на уровне рабочих нагрузок. С помощью Amazon Bedrock Projects можно привязывать затраты на вывод к конкретным рабочим нагрузкам и анализировать их в AWS Cost Explorer и AWS Data Exports.

Проект на Amazon Bedrock представляет собой логическую границу, которая обозначает рабочую нагрузку, такую как приложение, среда или эксперимент. Для атрибуции затрат проекта необходимо прикрепить теги ресурсов и передать идентификатор проекта в API-вызовах. После этого можно активировать теги атрибуции затрат в AWS Billing, чтобы фильтровать, группировать и анализировать расходы в AWS Cost Explorer и AWS Data Exports.

Теги, которые вы прикрепляете к проектам, становятся измерениями, по которым можно фильтровать и группировать в отчетах о затратах. Рекомендуется заранее спланировать их, прежде чем создавать первый проект. Общий подход заключается в том, чтобы тегировать по приложению, среде, команде и центру затрат.

После определения стратегии тегирования вы можете создать первый проект. Каждый проект имеет свой набор тегов атрибуции затрат, которые отображаются в ваших данных о выставлении счетов. Например, можно создать проект с использованием API Projects, установив необходимые зависимости и указав теги.

После создания проекта можно ассоциировать запросы на вывод, передавая идентификатор проекта в API-вызовах. Это поможет поддерживать чистую атрибуцию затрат. Чтобы теги проекта появились в отчетах о затратах, необходимо активировать их как теги атрибуции затрат в AWS Billing, что соединит теги проекта с процессом выставления счетов.