Исследование выявило различия между логикой ИИ и механизмами мозга
Специалисты Йоркского университета сопоставили работу искусственных нейронных сетей и человеческого мозга. Искусственные модели давно используют при изучении зрения: они воспроизводят отдельные закономерности активности клеток. Однако совпадение итогов не доказывает, что изображения обрабатываются одинаково. Об этом пишет RuSamara.
Проверку построили на обратном тесте предсказуемости. Обычно учёные смотрят, насколько сеть предугадывает сигналы нейронов. В новой работе направление изменили: по зарегистрированной активности клеток пытались восстановить внутренние свойства модели. При одинаковом устройстве систем связь должна работать в обе стороны.
В опыте задействовали 1320 фотографий природы и реалистичных синтетических картинок. На них были десять знакомых объектов: медведь, яблоко, слон, автомобиль, лицо, стул, собака, птица, самолёт и зебра. Фоны менялись — природные, уличные, интерьерные. Отдельно проверили ещё 300 изображений: контуры, рисунки, упрощённые версии и художественные трактовки тех же предметов.
Реакцию зарегистрированных нейронов ИИ предсказывал в целом успешно. Обратная проверка дала иной результат: активность клеток гораздо слабее объясняла многие внутренние свойства моделей. У разных человеческих мозгов такого разрыва не нашли. Это говорит об особенностях стыковки биологических данных с искусственными системами.
Сеть может имитировать отклик мозга, применяя другие внутренние механизмы. Если судить о системе лишь по точности предсказания активности, возрастает риск ошибочных выводов — при изучении зрения и поведения, а также неврологических и психологических состояний. Компоненты, которые совпадают с мозгом, точнее прогнозируют, как ведут себя люди; иные части способны опираться на стратегии, которых мозг не использует. Авторы не предлагают отказываться от нейросетей: по их мнению, нужно точнее определять элементы, соответствующие мозговой активности, а для проверки моделей команда выпустила общедоступный набор инструментов; статья вышла в Nature Machine Intelligence и может помочь создавать системы, которые достовернее отражают восприятие окружающего мира мозгом.
