Google и DeepMind открывают институт безопасности общего ИИ

Компания DeepMind, принадлежащая Google, объявила о запуске нового института. Проект займётся исследованиями в сфере безопасного развития AGI — общего искусственного интеллекта. Об этом пишет ТАСС. Данную информацию сообщает портал Togliatti24.

На сайте DeepMind Institute (DMI) названа главная задача структуры. Она состоит в поддержке смелых идей о безопасном прогрессе в области AGI. В заявлении подчёркивается: рост возможностей ИИ создаёт новые вызовы. К ним относят киберугрозы и биологические риски. В будущем это способно обернуться утратой контроля над саморазвивающимися системами.

Институт объединит сотрудников Google и DeepMind. К работе приглашают учёных из разных стран. Они смогут делиться мыслями о перспективах AGI.

12 сентября Дарио Амодеи, возглавляющий Anthropic, выступил за замедление разработки передовых ИИ-моделей. По его словам, это даст компаниям время и поможет избежать критических ошибок. Его позицию поддержали Илон Маск и Сэм Альтман.