Система предсказывает ошибки беспилотников на дорогах

Автономные транспортные средства нередко полагаются на нейросети, которые дают сбои в нестандартных ситуациях. Чтобы пассажиры могли вовремя понять причину необычного манёвра, специалисты MIT и фирмы Motional создали модуль Concept-Wrapper Network (CW-Net). О разработке рассказал портал Science XXI. Об этом сообщает издание Togliatti24.

Система переводит внутренние сигналы управления в простые описания вроде «впереди остановившийся автомобиль» или «рядом велосипедист». Эти подсказки выводятся на экран вместе с планируемой траекторией в реальном времени. Важно, что дополнительный блок не замедляет и не искажает работу оригинального алгоритма.

Для тренировки CW-Net использовали 130 миллионов дорожных сцен, записанных беспилотниками. В каждом фрагменте отмечены объекты и события, что позволяет модели выделять значимые факторы обстановки.

На испытаниях с роботакси Motional на закрытой трассе пояснения повысили точность прогноза действий машины у водителя. Так, в одном эпизоде автомобиль затормозил перед велосипедистом не потому, что распознал его, а из-за аварийной остановки. Зная это, водитель успевал сбросить скорость или перейти на ручное управление.

Аналогичные итоги дало компьютерное тестирование с реальными ситуациями из Лас-Вегаса. Пользователи, которым показывали объяснения CW-Net, лучше предсказывали поведение автопилота. В статье, опубликованной в Nature, отмечается, что подход способен помочь инженерам находить ошибки в ИИ и повысить надёжность автономного движения.