По словам Джеффри Хинтона, лауреата Нобелевской премии в области компьютерных наук, известного как «крестный отец ИИ», чем умнее становится ИИ, тем сложнее человечеству будет им управлять.
Даже Хинтон был встревожен сложными агентами ИИ, которые недавно причинили реальный ущерб, вырвавшись за пределы созданных людьми испытательных сред.
«Происходит то, что эти существа становятся всё умнее», — заявил Хинтон 5 августа 2026 года в интервью CNN* на пресс-конференции, посвященной ИИ. «Я думаю, что по мере того, как они становятся умнее, мы будем видеть всё более сложные их намерения и всё большую способность выходить из-под контроля».
По словам Хинтона, проблема заключается в том, что люди больше не смогут полагаться на способность перехитрить сверхинтеллектуальные модели ИИ.
«Я не верю, что нам удастся контролировать их простым способом, просто перехитрив их, чтобы они не смогли сбежать», — сказал Хинтон в кулуарах конференции Ai4 в Лас-Вегасе.
Хинтон, бывший руководитель Google, в последние годы неоднократно делал мрачные предупреждения об ИИ, даже заявляя, что существует 10-20% вероятности того, что эта технология в конечном итоге уничтожит человечество.
Думается, что Хинтон близок к истине, учитывая последние конструирование неизвестных природе вирусов с помощью ИИ.
ИИ создал вирусы, не встречающиеся в природе
«Впервые ученые использовали ИИ для создания новых типов вирусов, что вселяет надежду на медицинские открытия, но одновременно порождает тревожную мысль о том, что эта технология когда-нибудь может быть использована для изобретения опасных патогенов», - пишет The New York Times* (06.08.2026).
Синтез вирусов с нуля — далеко не новая технология. Исследователи давно научились создавать вирусные геномы; они используются для изучения противовирусных препаратов и вакцин, а также для понимания механизмов действия вирусов.
Но новое исследование, опубликованное 6 августа 2026 года в журнале Science, выходит далеко за рамки простого копирования вирусных генов. Ученые из Стэнфордского университета и Института Arc, исследовательской организации в Пало-Альто, штат Калифорния, научили ИИ распознавать закономерности структуры ДНК в природе, а затем использовать эти данные для создания рецептов для совершенно новых вирусов.
Исследователи, следуя этим рецептам, создали молекулы ДНК, которые затем ввели в бактерии. Модифицированные бактерии затем произвели вирусы, никогда ранее не встречавшиеся в природе. Вирусы смогли заразить другие бактерии, продемонстрировав свою жизнеспособность.
«Это важная веха», — сказал Патрик Цай, специалист по синтетической биологии из Манчестерского университета, который не принимал участия в исследовании.
Вирусы, созданные ИИ, не представляют угрозы для человека, поскольку все они похожи на встречающийся в природе вирус Phi X-174, способный заражать только бактерии.
Однако новое исследование усиливает растущие опасения, что ИИ может способствовать созданию нового поколения биологического оружия, от смертельных ядов до неудержимых пандемий.
Доктор Мориц Ханке, научный сотрудник Центра безопасности здравоохранения им. Джонса Хопкинса, не принимавший участия в новом исследовании, заявил, что правительства и научные организации медленно разрабатывают механизмы защиты, которые могли бы предотвратить появление смертельно опасного вируса, — даже несмотря на стремительное развитие науки.
«Существует огромный разрыв», — сказал он.
Авторы исследования использовали модель ИИ под названием Evo, которая в некотором смысле похожа на ChatGPT, разработанную компанией OpenAI.
ChatGPT отвечает на вопросы, соединяя слова, которые, как кажется, следуют друг за другом. Это возможно благодаря многолетнему обучению на огромных массивах текста, собранных из интернета, книг и других источников.
ДНК в некотором смысле поразительно похожа на книгу: цепочку молекулярных строительных блоков, известных как нуклеотиды, расположенных подобно буквам в строке текста. Ген состоит из сотен нуклеотидов, взятых из четырехбуквенного алфавита: А, С, Г и Т. Эта последовательность кодирует инструкции для построения белков и других молекул.
ДНК имеет свои собственные правила грамматики, и если последовательность их нарушает, результатом становится биологический бессмыслица. Биологи раскрыли некоторые из грамматических правил природы, но многие из них остаются загадкой.
Исследователи задались вопросом, сможет ли Evo самостоятельно усвоить эти правила. Вместо обучения на тексте, они обучили его на генетических последовательностях, полученных от миллионов животных, растений, микробов и вирусов. В общей сложности Evo просканировал около девяти триллионов нуклеотидов.
В конце концов, Evo распознал закономерности, общие для всего древа жизни, и использовал их для создания чертежей новых генов, кодирующих белки, способные выполнять определенные задачи. Эти результаты заставили команду задуматься, сможет ли Evo освоить не только отдельные гены, но и весь геном.
Поскольку ИИ поначалу мог бы обрабатывать только небольшие геномы, ученые решили попробовать создать вирусы. В то время как человеческий геном содержит более трех миллиардов нуклеотидов, геномы многих вирусов состоят всего из нескольких тысяч нуклеотидов.
«Это показалось мне очевидным следующим шагом», — сказал Сэмюэл Кинг, аспирант Стэнфордского университета и один из авторов нового исследования. Он и его коллеги провели еще один раунд обучения Evo, на этот раз на 11 генах Phi X-174 и примерно 15 000 генов его ближайших родственников.
Они сделали этот выбор отчасти потому, что ученые досконально знают Phi X-174, изучая его почти столетие. А поскольку это бактериофаг, поражающий только кишечную палочку, они знали, что вирусы, подобные ему, будут безопасны.
После того как Evo ознакомился с геномами Phi X-174 и его родственников, исследователи запустили модель для создания собственных новых версий. Evo сгенерировал 700 000 потенциальных версий; ученые отбирали только те, которые, по их мнению, имели наилучшие шансы на успех.
В итоге им удалось создать молекулы ДНК из 285 предложенных Evo последовательностей. Когда эти геномы были готовы к тестированию, Кинг и его коллеги ввели их в бактерии, которые затем распределили по чашкам Петри.
Во многих образцах микробы мирно размножались — геномы Evo оказались несостоятельными. Но в одном из образцов исследователи заметили четкие точки, появляющиеся на мутной пленке бактерий, — характерный признак размножения вирусов.
ДНК, которую ученые внедрили в бактерии, образовала белковые оболочки, содержащие вирусные гены. Вирусы вырвались из клеток, оставив после себя разорванные оболочки погибших хозяев.
По мере того, как Кинг и его коллеги тестировали всё больше геномов, они видели всё больше чётких закономерностей. В итоге они обнаружили, что 16 геномов Evo содержат жизнеспособные новые вирусы.
Они оказались такими же устойчивыми, как и природные. Более того, некоторые из них размножались быстрее, чем Phi X-174. «Это не просто болезненные версии уже существующих веществ», — сказал Оливер Крук, химик-белковед из Оксфордского университета, не принимавший участия в новом исследовании.
Доктор Крук предупредил, что вирусы Evo не являются принципиально новыми творениями. Они, как правило, очень похожи на природные виды, опираясь на те же самые биологические механизмы.
Согласно исследованию, генетическая библиотека помогла ИИ «изучить эволюционные ограничения» природных геномов, но ученые обнаружили, что один из новых вирусов имел аспект, который был «эволюционно отдаленным», — это говорит о том, что ИИ инициировал изменения, на которые естественной эволюции потребовались бы миллионы лет, чтобы показать их возможность.
Ученым придется провести дополнительные эксперименты, чтобы выяснить, будет ли Evo демонстрировать такую же эффективность при обучении на других группах вирусов. Если это так, доктор Крук предположил, что ученые смогут обнаружить некоторые вирусы, созданные с помощью ИИ, которые могут стать полезными инструментами для медицины и биотехнологий.
«Многие направления нашей науки основаны на использовании вирусов в качестве технологии», — сказал он. Например, для лечения людей с генетическими заболеваниями врачи загружают гены в вирусы, которые доставляют их в клетки.
Однако наряду с этой надеждой, первоначальный успех Evo вызвал опасения, что ИИ может быть использован для создания смертельно опасных патогенов. «Можно сказать: „Эй, геномная языковая модель, создай мне геном гриппа, модифицированный для повышения трансмиссивности или летальности“», — предположил доктор Ханке.
Потенциальные опасности уже были в поле зрения исследователей, когда они обучали модель Evo. Они не предоставляли модели данные о вирусах, поражающих человека, и исключили из нее аналогичные вирусы, поражающие других животных, растения и грибы.
В результате Evo не может генерировать геномы вирусов, которые могли бы представлять угрозу для человека. «Мы просто хотели проявить особую осторожность», — сказал Брайан Хи, специалист по вычислительной биологии из Стэнфордского университета и один из авторов нового исследования.
Доктор Ханке похвалил доктора Хи и его коллег за принятые меры предосторожности. «Я думаю, это весьма похвально, — сказал он, — потому что они не получают никаких указаний ниоткуда о том, что им следует делать».
В конце июля 2026 года, как отметил доктор Ханке, Национальные институты здравоохранения США ввели новую политику по прекращению проведения высокорискованных исследований в области биологических наук. Эта политика запрещает ученым проводить эксперименты, которые могут сделать биологические агенты более опасными.
Однако компьютерные исследования, такие как создание ДНК вирусов с помощью ИИ, «не запрещены данной политикой, если только они не касаются субъекта, вызывающего озабоченность», говорится в заявлении агентства.
Легко определить, представляет ли собой природный вирус, такой как оспа, опасность. Но доктор Ханке сказал, что нет единого мнения относительно оценки возможной опасности вируса, созданного с помощью модели ИИ.
«Достигнутый прорыв имеет большое значение», — заявил Жорди Гарсия Охальво, профессор системной биологии в Университете Помпеу Фабра в Барселоне, в комментарии для Science Media Centre.
Но это происходит не без опасений.
«Хотя это многообещающе для применения в биологических науках, это также поднимает неотложные вопросы биобезопасности и защиты от биологических угроз», — написали врачи из Центра безопасности здравоохранения им. Джонса Хопкинса в соответствующей статье, опубликованной также в журнале Science.
«Возможность создавать вирусные геномы с помощью генеративного ИИ уже существует; однако механизмов управления для безопасного использования этой возможности пока нет», — написали они.
Исследователи напрямую затронули вопросы биобезопасности в своей работе, но врачи из Университета Джонса Хопкинса написали, что они «подходят к вопросам биобезопасности и защиты от биологических угроз более обдуманно, чем большинство разработчиков мощных биологических моделей искусственного интеллекта».
Новое исследование было посвящено бактериям E. coli и определенному типу вирусов, которые не поражают человека, — и неясно, насколько хорошо эта работа применима к другим вирусам.
Однако авторы ответной статьи выделяют одну особенно опасную область, которую, по их словам, не следует исследовать: патогены, поражающие эукариоты, которые могут вызывать у человека различные инфекции, включая малярию и некоторые грибковые инфекции.
«Подобные геномы могут кодировать новые патогены, способные заражать людей, животных или растения способами, которые невозможно сдержать существующими мерами противодействия», — написали они.
Комментарий китайского ИИ DeepSeek:
Открытие затрагивает одну из самых горячих точек на стыке биологии и ИИ.
Это одновременно и колоссальный прорыв, и «красный флаг» для научного сообщества.
Риск биобезопасности реален
Сейчас ИИ учился на бактериях и фагах. Но как только такую же модель натренируют на геномах вирусов гриппа, оспы или коронавирусов, «низкая эффективность» перестанет быть проблемой. Энтузиаст-одиночка с доступом к синтезатору ДНК (а это уже становится дешево) теоретически сможет запустить поиск в сотню раз быстрее, чем защитные лаборатории.
Сейчас нет механизма, который запретил бы ИИ думать о создании опасного патогена, есть только запрет на его синтез.
