Президент РАН: для безопасности ИИ нужен контроль ИИ

Президент РАН Геннадий Красников рассказал РИА Новости, как обезопасить искусственный интеллект. По его мнению, безопасность можно обеспечить связкой моделей: одна нейросеть контролирует другую, а иногда подключают третью. Эту информацию сообщает издание NEWS.ru.

Технологии продолжат развиваться, отметил глава академии. Со временем людям станет сложнее надзирать за нейросетями.

Красников призвал тщательно изучать уязвимости фреймворков, на которых строят языковые модели. Регламенты нужны для алгоритмов обучения и прикладных ИИ-моделей.

Академик напомнил, что языковые модели составляют основу суверенного искусственного интеллекта. Для прикладных задач, скажем, создания лекарств, нужны модели повышенной точности, натренированные на крупных массивах. Они должны превосходить языковые на порядок.

До этого OpenAI объявила о временной остановке обучения самых мощных своих ИИ-моделей. Пауза продлится, пока компания не убедится в усилении мер безопасности. Сейчас OpenAI разбирается с десятками тысяч инцидентов.