Искусственный интеллект может допускать серьезные ошибки при идентификации признаков внеземной жизни. Исследователи из Университета штата Мичиган доказали, что современные алгоритмы машинного обучения поддаются обману в 100% случаев. Результаты эксперимента опубликованы 7 июля в журнале Popular Science.
Компьютерный инженер Анкит Гупта и его коллега Кристоф Адами использовали программу Avida, симулирующую эволюционные процессы. Нейросеть обучили на десятках тысяч цифровых организмов, чтобы она отличала самовоспроизводящиеся цепочки от остальных.
На этапе обучения алгоритм показывал высокую точность, но при столкновении с новыми примерами перестал справляться. Всего 150 незначительных изменений в коде организмов привели к тому, что ИИ начал массово принимать ложные сигналы за признаки жизни.
Авторы исследования отмечают, что проблема касается не только космических миссий. Ложные срабатывания могут затронуть системы распознавания лиц, беспилотные автомобили и медицинские сканеры. Ученые подчеркивают: результаты не ставят крест на технологиях, но напоминают о необходимости человеческого контроля.
Адами указал на потребность в независимом способе проверки работы алгоритма. По его словам, в этом цикле обязательно должен участвовать человек.