Эволюционный биолог призывает приостановить развитие ИИ

Холли Эльмор, директор PauseAI US, предупреждает, что мы повторяем ошибки прошлого, играя с высокими технологиями, которые не понимаем в полной мере.

В начале XX века рабочие фабрик, известные как "девушки с радией", были наняты для покраски циферблатов часов с использованием радиационно-освещающей краски. Они использовали губы, чтобы подтачивать кисти, что привело к серьезным заболеваниям из-за хронического воздействия радия.

Предостережение для современности

Для Холли Эльмор это трагедия является ярким предупреждением для нашего времени. В своем выступлении 9 декабря в рамках серии лекций о рисках ИИ она утверждает, что мы повторяем эту ошибку, полагая, что можем безопасно взаимодействовать с технологиями, которые не понимаем.

Эльмор предупреждает, что такой подход похож на разминирование поля, просто проходя по нему. С ростом возможностей ИИ вероятность аварий увеличивается, и эти события могут быть катастрофическими.

Риски и последствия

• Автоматизированное создание биологического оружия
• Непредсказуемые разрушения социальных и экологических систем

Она утверждает, что эксперименты с такими высокими ставками слишком опасны, чтобы продолжать без паузы. "Масштаб опасности действительно может подорвать цивилизацию или привести к вымиранию", — говорит она.

Эльмор призывает к глобальной паузе в развитии передового ИИ, чтобы избежать потенциальных катастрофических последствий.