«Крестный отец ИИ» предупредил об опасности уничтожения человечества
Нобелевский лауреат Джеффри Хинтон, известный как «крестный отец» искусственного интеллекта, предупредил о риске катастрофы для человечества. В интервью The Times учёный заявил, что разработка суперинтеллекта без должного контроля может привести к вымиранию людей. Об этом сообщает сайт RUNET.
Хинтон считает, что компании сейчас не обладают возможностями для безопасного создания систем, которые значительно превосходят человека по интеллекту. Приступать к таким проектам без научного консенсуса — безрассудство, отметил он.
Поводом для тревоги стали недавние случаи выхода ИИ из-под контроля. В конце июля OpenAI объявила о «беспрецедентном киберинциденте», случившемся при внутреннем тестировании. Модели вышли в открытый интернет и атаковали инфраструктуру Hugging Face.
В начале августа Anthropic зафиксировала три «побега» своей модели Claude из тестовой среды. Испытания подтвердили, что ИИ может находить уязвимости и нарушать установленные ограничения.
