Метки Google DeepMind для ИИ-белков оказались уязвимы для удаления
Google DeepMind представила технологию SynthIDBio, которая наносит скрытые метки на белки, созданные искусственным интеллектом, не нарушая их работу. Разработка призвана помочь установить происхождение искусственно спроектированных молекул и снизить риски их опасного применения. Об этом пишет издание Science XXI.
Метки бывают двух типов: SynthIDBio-sequence меняет выбор аминокислот по секретному ключу, а SynthIDBio-structure вносит едва заметные коррективы в пространственную структуру белка. В испытаниях оба метода выявили более 99% маркированных белков и правильно распознали 99,9% белков без меток.
Однако эксперты сомневаются в надежности технологии. Главный прикладной научный сотрудник Microsoft Брюс Виттманн сообщил Live Science, что метки можно удалить: для последовательностей достаточно изменить порядок аминокислот, а для структур — добавить шум или скорректировать координаты. После этого стандартные проверки не смогут установить, что маркировка существовала.
Профессор биофизики Университета Джонса Хопкинса Джордж Роуз заявил: «I’m convinced it won’t work». Эксперт по химбиологическому оружию Макс Бракманн добавил, что даже постоянная метка не остановит злоумышленников, а открытый исходный код большинства программ для генерации белков усугубляет проблему.
