Понимание инверсной ошибки в безопасном AGI

В данной статье рассматривается инверсная ошибка, которая возникает в системах искусственного интеллекта, таких как Google Gemini. Исследуется, как отсутствие физического опыта и взаимодействия с реальностью приводит к проблемам с пониманием и логическим выводом. AI-системы, несмотря на свои достижения, продолжают сталкиваться с трудностями в области причинного понимания и логического вывода, что подчеркивает необходимость более глубокого анализа их архитектуры.

Исследования, проведенные командой Google DeepMind, показывают, что даже с высокими показателями на тестах, такими как Massive Multitask Language Understanding (MMLU), модели не способны к истинному пониманию. Они демонстрируют беглость без основ, что приводит к инверсной ошибке, описанной в статье.

В процессе создания физически обоснованной модели, такой как Gemini Robotics 1.5, исследователи столкнулись с проблемами обобщения задач, что подтвердило существование структурного разрыва в архитектуре системы. Несмотря на попытки внедрить «воплощенное мышление», которое позволяет моделям генерировать языковые рассуждения перед выполнением действий, проблема инверсной ошибки остается актуальной.

Статья утверждает, что для решения этой проблемы необходима структурная интервенция, а не просто увеличение масштабов или применение символического мышления к физическим действиям. Важно понимать, что инверсная ошибка возникает из-за того, что мы создали вершину синтетического познания без необходимой основы.

Согласно теории психолога Джерома Брунера, человеческое когнитивное развитие проходит три стадии: воплощенную, иконную и символическую. Каждая из этих стадий зависит от предыдущей, и удаление основы приводит к созданию системы, которая не может адекватно проверять свои выводы.