Используем ИИ для борьбы с предвзятостью в здравоохранении

Эмма Пирсон, ученый из UC Berkeley, уверена, что мы можем использовать искусственный интеллект для улучшения систем здравоохранения и уголовного правосудия, если будем разрабатывать алгоритмы с учетом равенства.

С каждым годом ИИ и алгоритмы все чаще используются для принятия решений, которые могут изменить жизнь, от оценки риска рака до назначения уголовных наказаний. Но как гарантировать, что эти алгоритмы избавлены от предвзятости, присущей человеческому мышлению?

Потенциал ИИ в здравоохранении

Пирсон разрабатывает методы ИИ и машинного обучения для медицины и социальных наук, стремясь улучшить здравоохранение и снизить социальное неравенство. Она недавно создала новый тест для выявления расовой дискриминации в полицейской практике.

Личный опыт

Пирсон узнала о своей предрасположенности к раку молочной железы, что подтолкнуло её к изучению статистических методов и применению компьютерных моделей в здравоохранении.

Работа с данными о полицейских остановках

Работа Пирсон с данными о полицейских остановках показала явные расовые различия, что вдохновило её на борьбу с расовым неравенством. Она и её коллега разработали новый способ тестирования, чтобы определить, вызваны ли неравенства дискриминацией.

• Использование ИИ для улучшения справедливости
• Разработка алгоритмов для противодействия предвзятости
• Сложности внедрения справедливых алгоритмов

Пирсон подчеркивает, что создание и внедрение справедливых алгоритмов в реальном мире сталкивается с множеством вызовов, так как алгоритмы, обученные на предвзятых данных, также будут принимать предвзятые решения.