В исследовании о рисках бесконтрольного распространения искусственного интеллекта компания Anthropic упомянула Petals. Этот проект создавали в том числе исследователи Яндекса. Эту информацию сообщает издание The GEEK.
Petals даёт возможность запускать крупные языковые модели сразу на нескольких компьютерах, связанных через интернет. Нейросеть делится на фрагменты, а расчёты распределяются по устройствам. Работали над ним вместе с НИУ ВШЭ и зарубежными научными организациями.
Специалисты Anthropic построили свой эксперимент по похожей схеме. Модель Gemma 4 на 26 млрд параметров они развернули на 15 Android TV-приставках, каждая примерно за 55 долларов. Подход оказался рабочим, но генерация шла медленно — 0,39 токена в секунду. Код Petals при этом, по данным компании, не использовался.
Отдельно проверяли, способен ли ИИ сам занимать новые устройства. В изолированной сети из восьми виртуальных узлов модель GLM-5.2 развернула тестовую систему на всех узлах в четырёх попытках из пяти. Правда, сама модель размещалась на отдельном сервере, а условия специально упростили.
Авторы считают: чем компактнее становятся нейросети, тем выше вероятность появления систем, распространяющихся без человека. Пока такие способности показаны только в лабораторных рамках.