ИИ может помочь создать биологическое оружие. Что делать?

Искусственный интеллект позволяет быстрее и проще проектировать новые белки и модифицировать существующие. Но из-за своей универсальности та же модель, которая помогает разработать безвредный вирусный вектор для генной терапии, может быть использована для создания высокопатогенного вируса, способного уклоняться от иммунитета.

Важнейший этап синтеза любого белка — это заказ гена (или его фрагмента), кодирующего этот белок, у одного из множества поставщиков синтетических нуклеиновых кислот. Это лишь первый шаг из многих, но его практически невозможно избежать, что создает «узкое место» в производстве белков. Его можно контролировать, чтобы снизить риск получения вредных белков.

Компании, занимающиеся синтезом нуклеиновых кислот, используют программное обеспечение для скрининга на биобезопасность (BSS), чтобы проверить заказы клиентов на наличие генов белков, вызывающих беспокойство (POC). BSS сравнивает заказанные последовательности с природными. Если сходство велико, то последовательность направляют в очередь на экспертную оценку. Этот процесс, называемый «наилучшим соответствием», был первоначально определен в обновленных руководствах по скринингу последовательностей, опубликованных Министерством здравоохранения и социальных служб США в 2010 году.

С появлением инструментов оптимизации и переназначения кодонов (замена кодона аминокислоты на синонимичный, замена аминокислоты на похожую и т.д.) стало возможным создавать последовательности нуклеиновых кислот, которые совсем не похожи на природные, даже если они кодируют те же аминокислоты. BSS подстроились, теперь они умеют обнаруживать и такие последовательности. Однако ИИ все время совершенствуются. Могут ли современные BSS учесть все возможные ситуации? Журнал Science опубликовал статью об исследовании, которое дает скорее отрицательный ответ на этот вопрос, и собрал комментарии экспертов.

Биоинженер Microsoft Брюс Витман обычно применяет ИИ для разработки полезных белков. Но в прошлом году он использовал инструменты ИИ как потенциальный биотеррорист: создал цифровые чертежи белков, имитирующих смертельные яды и токсины. Витман и коллеги отобрали 72 различных белка, подлежащих законодательному контролю, например, рицин — бактериальный токсин, уже использованный в нескольких террористических атаках. Следы рицина были обнаружены в письмах, отправленных высокопоставленным чиновникам США в 2013 и 2018 гг.

Используя программное обеспечение с открытым исходным кодом для проектирования белков на основе ИИ, Витманн разработал более 70 000 последовательностей ДНК, которые позволили бы генерировать варианты этих белков, не обязательно сохраняя их аминокислотные последовательности. Компьютерные модели предполагали, что по крайней мере некоторые из этих альтернатив также будут токсичными. «Знание того, что у меня был доступ к этим белкам, и ответственность за них были серьезным бременем, просто по-человечески», – говорит Витманн.

Далее авторы отправили эти последовательности четырем разработчикам BSS. Инструменты не смогли идентифицировать многие из проблемных последовательностей. Результаты работы четырех BSS сильно различались. Один инструмент выявил лишь 23% потенциально опасных последовательностей. Второй выявил 70% последовательностей, и его разработчик решил не вносить никаких изменений для улучшения программного обеспечения. (Чувствительный скрининг, улавливающий каждую потенциально опасную последовательность, вероятно, также будет реагировать и на безобидные, что увеличит расходы.) Другие поставщики программного обеспечения выпустили обновления. Весь процесс занял несколько месяцев. После обновлений системы в среднем выявили 72% последовательностей, сгенерированных ИИ Витмана, включая 97% последовательностей, которые модели оценили как наиболее вероятно генерирующие токсины.

Витман не создавал эти белки и не тестировал их на токсичность; для этого пришлось бы заказать гены у поставщиков ДНК и внедрить их в клетки бактерий или дрожжей, продуцирующих белки. Это можно было бы считать нарушением Конвенции о биологическом оружии.

По мнению Брюса Витмана и его соавторов, их результаты показывают, что, хотя существующие системы BSS эффективно выявляют неизмененные последовательности, им не хватает чувствительности при работе с белковыми последовательностями, созданными с использованием современных методов генеративного ИИ. После обновления ситуация стала лучше, но все равно BSS, основанные на принципе наилучшего соответствия, уязвимы по своей природе. ИИ позволяет исследователям изменять аминокислотную последовательность белка, сохраняя его функцию. Такие белки не похожи на природные, следовательно, их может быть трудно обнаружить.

Хайме Яссиф, вице-президент по глобальной биологической политике и программам организации «Инициатива по предотвращению ядерной угрозы» (NTI), считает, что это исследование — модель будущего. «Это только начало, — говорит она. — Возможности ИИ будут развиваться и позволят создавать все более сложные живые системы, и наши возможности скрининга синтеза ДНК должны будут продолжать развиваться, чтобы идти в ногу со временем».

Яссиф утверждает, что программное обеспечение для скрининга — не единственный барьер биобезопасности, который необходимо усилить. Некоторые поставщики ДНК, занимающие, возможно, 20% рынка, вообще не проверяют свои заказы, отмечает она. Она также утверждает, что в сами инструменты для разработки ИИ-белков следует встроить дополнительные меры безопасности.

Впрочем, некоторые считают, что опасность не так велика. По словам Джеймса Дигганса, вице-президента по политике и биобезопасности компании Twist Bioscience, занимающейся синтезом ДНК, «реальное число людей, пытающихся создать условия для неправомерного использования, может быть очень близко к нулю». Он говорит, что в его опыте работы было очень мало случаев, вызвавших опасения.

Дрю Энди, исследователь в области синтетической биологии из Стэнфордского университета, считает, что совершенствование программного обеспечения для скрининга — это хорошо, но оно требует слишком много внимания по сравнению с гораздо более серьезным риском биобезопасности — секретными программами по разработке биологического оружия, которые могут быть запущены в некоторых странах.

«Хотелось бы, чтобы люди немного проснулись, — говорит он. — Сегодня страны обвиняют друг друга в наличии программ по разработке наступательного биологического оружия. Мы обвиняем Россию и Северную Корею. Китай и Россия обвиняют Соединенные Штаты. Это историческая закономерность, сложившаяся 100 лет назад и приведшая к появлению реальных программ по разработке биологического оружия. Мы должны деэскалировать ситуацию».

О проблеме биобезопасности писали также нобелевский лауреат Дэвид Бейкер и генетик и молекулярный инженер Джордж Черч в редакционной статье Science, опубликованной в январе 2024 года. По их мнению, одного лишь скрининга последовательностей недостаточно, поскольку белки, полученные de novo, могут иметь малое сходство с природными белками или совсем не иметь сходства. Следовательно, необходимо регистрировать синтезированные последовательности в специальных репозиториях, используя шифрование для защиты коммерческой тайны. Если в любой точке мира возникнет новая биологическая угроза, соответствующие последовательности ДНК можно будет отследить до их происхождения.

Такой подход должен быть эффективным, поскольку биологическая сложность делает крайне маловероятным создание опасного агента за одну попытку. Помимо наличия следа, знание того, что все синтезированные последовательности регистрируются, может отпугнуть злоумышленников. В идеале ведущую роль должна взять на себя международная группа, работающая в сотрудничестве с правительственными и неправительственными организациями, говорят авторы.