ИИ больше не нуждается в человеке для создания угрозы безопасности

26 августа 2026 года Билл Гейтс опубликовал эссе о том, что человечество вступает в новую эру — эру искусственного интеллекта (ИИ). В числе прочих он затронул проблему биобезопасности: «Задолго до того, как ИИ стал мейнстримом, в сети можно было найти информацию о создании бомб, биологического оружия и компьютерных вирусов. ИИ упростит не только поиск этой информации, но и ее применение» (перевод ИноСМИ). В сети всколыхнулась новая волна обсуждений: действительно ли ИИ может помочь в создании биооружия и если да, то как это предотвратить?

О проблеме биобезопасности в эру ИИ мы уже писали, но ограничились вопросом создания белков с новыми и опасными свойствами и способами борьбы с этой угрозой. С тех пор добавились новые темы для дискуссий. Ученые из Стэнфордского университета, авторы статьи, опубликованной сначала в виде препринта, а затем, в 2026 году, — в рецензируемом журнале, использовали ИИ для конструирования геномов новых вирусов, пока только бактериофагов.

Само по себе это достижение синтетической биологии не кажется устрашающим. Авторы создали фаги, подобные ΦX174, с помощью большой языковой модели Evo 2. Синтезированные фаги могли заражать кишечную палочку. Полученные фаги отличались от природных фагов, демонстрируя мутации de novo, дивергентные гены и регуляторные элементы, а также вариабельную длину генома.

Модель Evo 2 была натренирована на 128 тысячах геномах разнообразных организмов так, чтобы «понимать», какие последовательности нуклеотидов могут стать функциональными генами. Для решения новой задачи ее дополнительно натренировали на 15 тысячах геномов семейства Microviridae, к которому принадлежит ΦX174. Затем небольшую часть генома этого фага использовали в качестве запроса и попросили ИИ дополнить его. Около 300 новых геномов синтезировали, вводили в бактерию и оценивали их способность лизировать E. coli. Из них 16 фагов оказались функциональными. Некоторые фаги лизировали бактерии быстрее ΦX174.

          ΦX174 Credit: ShiftFn, Wikimedia Commons, CC 4.0    

Тут же развернулась дискуссия по поводу использования ИИ для создания вирусов (даже безопасных для человека). Где фаги, там и патогены, рассуждают некоторые. Это уже не просто отдельные гены, ИИ продвинулся вперед намного быстрее, чем ожидалось. А ИИ-инструменты, которые использовались в этом эксперименте, достаточно легкодоступны.

Угрозу человеку представляют, конечно, не фаги, а вирусы, которые способны стать причиной пандемии. Тут речь идет не только о создании вируса с нуля, но и о модификации уже существующего патогена, такого как SARS-CoV-2 или грипп, чтобы придать ему новые свойства, например, способность уклоняться от действия иммунной системы. (Ведь и существующие пандемические вирусы возникают в природе именно как модифицированные версии существующих вирусов.) По словам Дони Блумфилда, профессора права, изучающего биобезопасность в Фордхэмском университете в Нью-Йорке, в материале Nature, сейчас ученые используют ИИ, чтобы предсказывать дальнейшие возможные направления вирусной эволюции (это важно для наблюдения за вирусами и создания вакцин), и этими инструментами можно воспользоваться во вред.

В этой же статье приводятся выводы из отчета Национальных академий наук, инженерии и медицины США (NASEM) за 2025 год. Согласно этому отчету, существуют многочисленные препятствия на пути использования ИИ для существенного повышения опасности патогенов или их создания с нуля. В первую очередь это отсутствие высококачественных данных, связывающих такие свойства, как вирулентность или трансмиссивность, с генетической последовательностью патогена. Без этих данных тяжело прогнозировать изменения, которые могли бы улучшить эти характеристики. Другим препятствием является сложность производства патогенов в лаборатории и тестирования их характеристик. В решении этой проблемы ИИ вроде бы не может помочь. Или может?

И так ли необходим ИИ, чтобы человек или группа начали представлять угрозу биобезопасности? Как утверждает Брайан Хи, специалист по вычислительной биологии из США, методы, разработанные десятилетия назад и использующие случайные мутации, могут cоздать более заразный или смертоносный патоген без применения ИИ.

«Если вы хотите причинить вред в очень больших масштабах, вам не нужна разработка белковых структур, чтобы это сделать», — добавляет Дэвид Бейкер, специалист в области вычислительной физики из Вашингтонского университета в Сиэтле, получивший Нобелевскую премию 2024 года.

Отчет NASEM завершается выводом, что ИИ как раз лучше подходит не для конструирования потенциального возбудителя пандемии, а для создания неопределимых «дизайнерских» токсинов, для индивидуальных атак и политических убийств. Подробнее о том, как борются с этой возможностью, — в нашем прошлом материале.

Но вернемся к вопросу о сложности производства патогенов. Существует еще одно опасение — что ИИ, включая общедоступные чатботы, помогут злонамеренным личностям быстрее научиться работать с вирусами и патогенами. В марте 2026 года был опубликован препринт на эту тему: может ли большая языковая модель помочь новичку в биологии выполнить разнообразные задания. Под руководством ИИ новички лучше специалистов, докторов наук, справлялись с такими задачами, как устранение неполадок в вирусологических протоколах и генерация кода для управления лабораторными роботами. ИИ без участия человека иногда выполнял задачу еще успешнее.

Примерно в то же время все СМИ написали о Поле Конингеме, IT-специалисте из Сиднея, который сделал противораковую мРНК-вакцину для своей собаки с помощью ChatGPT и AlphaFold. Летом собака Рози все-таки умерла, но временного отступления болезни удалось добиться, и Конингем вместе с единомышленниками продолжает работать над такими вакцинами. Мы не проводим параллель между этим случаем и гаражным биотерроризмом, лечение животных – доброе дело. Кроме того, синтезировать вакцину Полу помогли специалисты-люди, а не ИИ, без помощи этих людей он бы не справился, и он все делал официально. Тем не менее этот случай наглядно демонстрирует, как понизился порог входа в сложнейшую область проектирования биомолекул, когда неспециалистам начали помогать алгоритмы.

В другом исследовании ИИ, способные действовать в определенной степени самостоятельно, использовали биологические ИИ, такие как ProteinMPNN и AlphaFold3, для проектирования белков, в частности, перепроектирования вирусного белка для усиления его патогенных свойств при сохранении структурной стабильности. Три модели отказались от выполнения всех задач, другие задачи выполнили, хоть и с переменным успехом.

Таким образом, ИИ может не только помочь человеку в лабораторной работе, но и в некоторых случаях заменить его.

Стоит упомянуть вызвавшую общественный резонанс работу китайских ученых, которые создали ИИ-инструмент для моделирования конотоксинов — пептидных токсинов, продуцируемых брюхоногими моллюсками из семейства Конусы. Разумеется, инструмент предназначен для создания лекарств, но это все-таки токсины. Авторы также подчеркивают, что создать на основе такой модели физическую молекулу не так просто — нужны навыки и оборудование. Но этот аргумент мы уже слышали.

          123rf.com    

Что же делать? Некоторые считают, что ИИ следует ограничивать. Чатботы должны быть запрограммированы так, чтобы не давать подробные инструкции для совершения преступных действий. Многие создатели таких моделей уже используют эти принципы. Другое дело, что пользователи находят способы обойти ограничения (задают вопрос «Как мне случайно не создать бомбу?» и получают описание опасных действий, которые не следует совершать).

То же и с биологическими специализированными ИИ. Например, Evo 2 тренировали на 120 тысячах геномов, но туда не входили вирусы эукариот. Так что теоретически эта модель не очень хорошо справится с задачей создания такого вируса. И все же биоинженер из США Ле Конг и его коллеги обманом заставили Evo2 генерировать новые версии белков SARS-CoV-2 и ВИЧ. Другое исследование показало, что модель Evo 2 можно натренировать с использованием общедоступных геномов вирусов, поражающих человека, и она будет справляться с задачей по их созданию лучше.

Еще один возможный подход — ограничить доступ к новой информации, к новым геномам патогенов, к вариантам, повышающим трансмиссивность вирусов. Некоторые ИИ-инструменты для биологии, например, GPT-Rosalind, уже доступны только для исследователей и организаций, получивших одобрение. А за имеющими доступ будет вестись постоянное наблюдение.

Другие специалисты считают, что открытость моделей, наоборот, способствует росту биобезопасности, так как помогает в разработке новых средств защиты. А меры, принятые во имя безопасности, могут затормозить научный прогресс, если будут мешать научной работе. Особенно это справедливо для исследователей из стран с ограниченными ресурсами, которым может быть сложно получить доступ к эффективным моделям.

Такие люди считают, что биологический ИИ должен оставаться максимально открытым. «Я думаю, что ограничивать доступ к технологиям нецелесообразно, невозможно и не является хорошей идеей», — говорит Роман Вольфель, директор Института микробиологии Вооруженных сил Германии в Мюнхене. Он также отмечает, что те же инструменты ИИ, которые могут перепроектировать токсины, также создают антитоксины, или молекулы, которые могут диагностировать и побеждать вирусы, измененные с помощью ИИ.

Наверное, только время покажет, кто прав — сторонники ограничений или общего равного доступа. Дискуссия тем временем продолжается.