Оптимизируйте объяснимый ИИ для обнаружения мошенничества в реальном времени

В данной статье рассматривается новый нейросимволический подход к объяснимому искусственному интеллекту, который позволяет значительно сократить время генерации объяснений при обнаружении мошенничества. Исследование показало, что новый метод обеспечивает в 33 раза меньшую задержку по сравнению с традиционными методами, такими как SHAP KernelExplainer, который требует около 30 миллисекунд на предсказание. Нейросимволическая модель генерирует объяснения непосредственно во время прохождения данных через модель, занимая всего 0,9 миллисекунды.

Автор статьи делится личным опытом отладки системы обнаружения мошенничества, когда возникла необходимость понять, почему модель отметила определённую транзакцию как подозрительную. Он столкнулся с проблемой, что объяснения, генерируемые с помощью KernelExplainer, были ненадёжными и требовали значительного времени. Это осознание привело к разработке нового подхода, который интегрирует объясняемость непосредственно в архитектуру модели.

Ключевым моментом является то, что объяснимость не должна быть постобработкой, а должна быть встроена в саму модель. Это особенно важно в условиях реального времени, когда задержки недопустимы. В отличие от SHAP, который требует наличия фонового набора данных и может выдавать разные результаты при каждом запуске, новая модель обеспечивает детерминированные и стабильные объяснения.

Эксперименты проводились на наборе данных о мошенничестве с кредитными картами от Kaggle, который включает более 284 тысяч транзакций. При этом было зафиксировано всего 492 случая мошенничества, что составляет 0,1727% от общего числа транзакций. Для решения проблемы несбалансированности классов использовался метод SMOTE, что позволило добиться более равномерного распределения данных в обучающей выборке.

Нейросимволическая модель, разработанная автором, состоит из трех компонентов: нейронной сети, символического слоя правил и слоя слияния, который объединяет сигналы от обеих частей. Это позволяет не только делать предсказания, но и объяснять их, эффективно решая задачу обнаружения мошенничества в реальном времени.