Глава MIRI: у человечества меньше 10 лет из-за ИИ

Нейт Соарес, директор американской организации MIRI, оценил вероятность вымирания человечества из-за ИИ более чем в 50% на горизонте десяти лет. Такой прогноз прозвучал в интервью The Atlantic. Об этом сообщает портал RuNews24.ru.

Причиной он назвал нынешние темпы совершенствования технологий. На таком фоне Соарес не видит смысла пополнять пенсионный счет, открытый еще в период работы в Google. Речь, по его словам, не о философской абстракции, а о личной ставке профессионала, занятого безопасностью машинного интеллекта.

Тревога не возникла на пустом месте. Опрос Politico показал: 17% американцев считают уничтожение человечества ИИ «почти наверняка» возможным, 20% видят значительный риск, 26% — умеренный, 7% не видят угрозы. Предупреждение главы MIRI совпадает с массовыми опасениями.

В отрасли тоже звучат призывы к осторожности. Директор Anthropic Дарио Амодеи 2 сентября призвал согласованно замедлить разработку передовых моделей, чтобы получить один-два дополнительных года до критических уровней. Его поддержали Илон Маск из SpaceX и Сэм Альтман из OpenAI.