Google DeepMind создала метки для ИИ-белков, но защиту можно обойти
Команда Google DeepMind представила SynthIDBio — метод скрытной маркировки белковых молекул, которые синтезирует ИИ. Такие отметки не мешают молекуле выполнять свою функцию. Разработка призвана показать, откуда взялся искусственно спроектированный белок, и уменьшить вероятность его опасного использования. Об этом сообщает издание Science XXI.
Генеративные модели уже умеют конструировать молекулы, каких в природе не встречалось. Они пригодятся при поиске лекарств. Однако те же инструменты способны подтолкнуть к получению токсинов либо иных биологических агентов. Рой Слейтор, профессор биологии из Мюнстерского технологического университета, в разговоре с Live Science назвал маркировку подспорьем для выявления синтетических белков: помеченные образцы можно отправлять на углублённую проверку биобезопасности. Сам он к исследованию отношения не имел.
За основу авторы взяли ProteinMPNN. Эта программа получает от пользователя нужную трёхмерную форму и подбирает цепочку аминокислот, задающую строение и свойства молекулы. SynthIDBio-sequence с помощью секретного ключа незаметно влияет на выбор аминокислот. Детектор затем оценивает, насколько вероятно появление последовательности с такой отметкой. Другой вариант, SynthIDBio-structure, прячет сигнал в пространственной укладке белка. Он меняет работу AlphaFold 3: в координаты атомов вносятся минимальные правки, которые можно найти, но которые не выглядят грубым искажением. На тестах оба способа обнаружили свыше 99% меченых белков; для 99,9% образцов без отметки результат распознавания оказался верным.
До массового внедрения технологии далеко. Брюс Виттманн, занимающий в Microsoft пост главного прикладного научного сотрудника, сказал Live Science: защиту реально снять. У последовательностей достаточно поменять порядок аминокислот. У структур — добавить шум либо подправить координаты. После такой обработки обычные проверки уже не покажут, что метка была. Макс Бракманн, сотрудник швейцарской лаборатории Шпиц и специалист по биологическому, химическому, радиологическому и ядерному оружию, добавил: даже несмываемая отметка не даёт полной гарантии. Она укажет на автора опасного белка или на несанкционированный доступ к программе, но злоумышленника не остановит. Осложняет дело открытый код большинства генераторов и предикторов белков: менять его может кто угодно.
Виттманн видит в маркировке только один из барьеров биобезопасности. Джордж Роуз из Университета Джонса Хопкинса, где он преподаёт биофизику, оценил идею скептически: «Я убеждён, что это не сработает».
