18 сентября 2026 года редакционная коллегия The New York Times* опубликовало обращение «Человечество уже избегало апокалипсис. Давайте сделаем это снова».
В нём говорится:
«Никогда в истории, — сказал президент США Гарри С. Трумэн, — общество не сталкивалось с силой, столь полной потенциальной опасности и в то же время столь полной надежд на будущее человечества и на мир во всем мире».
Речь шла о ядерных технологиях. Противоречивые чувства надежды и страха, связанные с этим в конце 1940-х и начале 1950-х годов, дают уроки для решения проблем, связанных с искусственным интеллектом, в наши дни.
Вред, который может причинить ИИ, не является секретом. «Люди, создающие ИИ, искренне верят, что к концу десятилетия он может убить нас всех», — написал в социальных сетях бывший сотрудник Anthropic Джейкоб Коксон в сентябре. Государство или террористическая группа могут использовать ИИ для создания кибероружия, роев дронов или биологического оружия, способного к широкомасштабному уничтожению. ИИ также может выйти из-под контроля человека, как это произошло летом 2026 года, когда автономные агенты OpenAI взломали системы другой компании без указаний со стороны сотрудников. Один из важнейших вопросов — это согласованность: ставят ли системы ИИ во главу угла человеческие ценности, такие как непричинение вреда или убийства, или же они просто максимально используют свои возможности для решения любой поставленной перед ними задачи, независимо от последствий.
Даже сами создатели признают риски. «Если не принять меры, это может превысить нашу способность понимать и контролировать эти системы», — написал в сентябре в открытом письме Дарио Амодей, генеральный директор Anthropic. Амодей призвал замедлить темпы разработки, и руководители трех других ведущих компаний в области ИИ — Google, OpenAI и SpaceX — поддержали эту идею. Наибольшие опасения связаны с потенциалом рекурсивного самосовершенствования в ближайшем будущем, когда системы могут автономно создавать мощные новые версии ИИ.
Аналогия с ядерной энергетикой полезна, потому что напоминает нам о том, что наш циничный век часто забывает: человеческое общество может сдержать опасное нововведение, если примет такое решение. Правительственные чиновники, ученые и руководители корпораций сделали это на памяти ныне живущих. Для этого потребовались длительные и целенаправленные усилия. Подобное сотрудничество необходимо и сегодня, и начинать его следует прямо сейчас.
В редакционной статье Times изложены основные принципы управления ИИ. Слишком многие американцы, включая чиновников, которые должны были бы лучше разбираться в этом вопросе, позволили его технической природе отпугнуть их. Основные идеи, которые предлагает Times, просты и напоминают те, которые руководители внедряли практически во все другие важные новые технологии со времен промышленной революции.
Главная идея политики в области ИИ должна заключаться в том, что компаниям, разрабатывающим технологии, нельзя позволять контролировать себя самостоятельно. Правительство регулирует все остальные отрасли, производящие мощные продукты, приносящие как значительные выгоды, так и большие риски. Нельзя позволять узкому кругу лиц, получающих от этого наибольшую выгоду, устанавливать правила.
Атомная энергия была впервые разработана в рамках военного проекта. Сегодня же лидерами в этой области являются частные компании. Но в обоих случаях новая технология внезапно ворвалась в общественное сознание и сразу же породила перспективу процветания или гибели, оставив американцев в неведении относительно того, как с ней справиться. В обоих случаях это означало, что правительству необходимо было вмешаться.
После Второй мировой войны в Вашингтоне разгорелись ожесточенные дебаты о том, как регулировать ядерные технологии. Некоторые чиновники хотели сохранить жесткий военный контроль, в то время как другие призывали к более мягкому надзору и усилению гражданского контроля. Первоначально казалось, что сторонники приоритета военных возобладают. Однако общественная кампания ученых в 1945 и 1946 годах изменила ход дебатов, отчасти подчеркнув необходимость демократической подотчетности.
1 августа 1946 года президент Труман подписал закон о создании Комиссии по атомной энергии для надзора за ядерными технологиями. Создание агентства было крайне важным. Технология была слишком новой и сложной, чтобы существующие правительственные ведомства обладали достаточной экспертизой для ее понимания и регулирования. Аналогичный подход применялся и к другим отраслям, возникшим на основе новых технологий: Федеральное управление гражданской авиации или Управление по контролю за продуктами и лекарствами.
Все эти ведомства несовершенны. В случае с Комиссией по атомной энергии, она быстро оказалась втянута в «красную истерию» и впоследствии не смогла сохранить доверие общественности к гражданским атомным электростанциям. Тем не менее, ведомство преуспело в своей важнейшей задаче: предотвращении ядерных катастроф.
С самого начала ни одна часть правительства, включая Белый дом, не контролировала комиссию. Труман выдвинул кандидатуры пяти членов комиссии, которые её возглавляли, и Сенат утвердил их. Закон также предусматривал активный надзор за комиссией со стороны совместного комитета Палаты представителей и Сената. Независимый комитет из девяти экспертов, включая Дж. Роберта Оппенгеймера и Энрико Ферми, консультировал комиссию по техническим вопросам.
«Те же общие принципы должны применяться и к ИИ, и правительство должно действовать незамедлительно. Америка может извлечь наибольшую выгоду из ИИ не только за счет разработки лучших технологий, но и за счет установления правил, основанных на демократических ценностях и правах человека и способных формировать глобальные дискуссии».
В краткосрочной перспективе недавние призывы к добровольному замедлению темпов развития ИИ со стороны руководителей компаний, включая Амодеи, Сэма Альтмана и Илона Маска, приветствуются. Руководителям следует разработать структуру, в которой безопасность будет на первом месте, и, как предложил Амодеи, привлечь к процессу независимых наблюдателей.
Критики задаются вопросом, насколько серьезно руководители относятся к этой идее или поднимают ее для снижения политического давления на отрасль. Один из способов оценить ситуацию — это то, будут ли Anthropic и OpenAI продолжать реализацию планов по выходу на биржу в ближайшие месяцы. Выход на биржу — обременительный процесс для любой компании, требующий от ее руководителей сосредоточенности. Если эти компании создают технологии, угрожающие человечеству, как говорят руководители, было бы безответственно с их стороны отвлекаться на этот процесс. Альтман, генеральный директор OpenAI, признал это и пообещал не выходить на биржу в 2026 году.
В конечном счете, добровольное замедление — не выход. Во-первых, координация действий между компаниями порождает антимонопольные проблемы. И, во-вторых, общество не может постоянно умолять руководителей, занимающихся ИИ, действовать альтруистически. Ключевая роль правительства — защита интересов общества от частных интересов.
«В 1940-х годах Конгресс принял двухпартийный закон, регулирующий атомную энергетику, менее чем через год после того, как Соединенные Штаты сбросили две атомные бомбы на Японию, положив конец войне. На этот раз Конгресс должен действовать еще быстрее, учитывая риски. Мы понимаем, насколько это маловероятно. Конгресс менее функционален, чем 80 лет назад, и как президент Трамп, так и лидеры республиканцев в Конгрессе дали понять, что они выступают против масштабного регулирования ИИ.
Тем не менее, опросы ясно показывают тревогу общественности, и демократам — и некоторым принципиальным республиканцам — следует усилить давление, чтобы закон был принят в ближайшее время. Демократы могут разработать масштабную программу, как призывал бывший президент Барак Обама, и проводить кампанию по этому вопросу в 2026 году. Пока федеральное правительство не предпримет никаких действий, штатам следует рассмотреть возможность принятия собственных законов о безопасности».
После создания федеральной комиссии по ИИ она должна обязать компании получать федеральную лицензию — разрешение, подобное тем, которые позволяют телевещательным компаниям и телефонным операторам использовать общедоступный эфир. Затем правительство должно установить требования к лицензированию, отражающие три важнейших принципа.
Первый принцип заключается в том, что системы ИИ должны соответствовать человеческим ценностям
Для достижения этого соответствия все модели ИИ должны включать в себя конституцию, написанную правительством, которая определяет ценности общества, в котором они функционируют, и границы, которые они должны соблюдать. Традиционный подход к регулированию заключается в создании свода правил. Это необходимо, но недостаточно для ИИ. Как и люди, ИИ способен действовать в ситуациях, не предусмотренных сводом правил. Более того, он способен обходить правила. Следовательно, моделям, как и людям, также необходим набор принципов. Эти принципы обеспечат соответствие человеческим ценностям.
Компания Anthropic разработала подобную конституцию для своей модели Claude. Это продуманный документ. Однако он в корне недемократичен. «Соединенные Штаты не должны передавать частным компаниям власть и ответственность за определение ценностей, на основе которых будут работать модели ИИ, и должны обеспечить, чтобы все модели работали в соответствии с одними и теми же основными принципами».
Второй принцип — прозрачность
Люди должны знать, что взаимодействуют с ИИ. При манипулировании или создании изображений модели должны включать водяные знаки. Другие продукты ИИ должны содержать уникальные идентификаторы, позволяющие регулирующим органам и экспертам отслеживать их. Недавно в Калифорнии вступил в силу закон о прозрачности, а Китай сегодня требует большей прозрачности, чем Соединенные Штаты.
Идея проста: всякий раз, когда человек взаимодействует с ИИ или потребляет контент, полученный от него, этот факт должен быть очевиден. Система ИИ не должна быть законной или возможной, чтобы она выдавала себя за кого-то из ваших знакомых. Должно быть легко определить, является ли изображение настоящей фотографией или чем-то другим. Если компания или правительство используют ИИ для принятия решения по вашей заявке на кредит, вашему трудоустройству или размеру залога, они должны быть обязаны раскрыть этот факт.
Прозрачность также может помочь защитить демократию. Политика — это диалог между членами сообщества; машины не должны иметь возможности притворяться гражданами.
Третий принцип — безопасность
Правительство должно обязать проводить независимые испытания на безопасность моделей ИИ, прежде чем они будут выпущены, а также регулярные проверки. Большая часть этих испытаний может быть проведена лабораториями частного сектора, а правительство будет финансировать и контролировать их. Другие регулирующие органы, такие как Федеральная резервная система и FDA, часто сотрудничают с экспертами вне правительства.
Отличительной особенностью тестов ИИ является то, что они оценивают, будет ли модель вести себя плохо. Тесты могут попросить помощи в создании биологического оружия. Или они могут попросить разработать план по максимизации эффективности сельского хозяйства и проверить, будет ли система готова убивать людей или животных, стремясь к этой цели. Главная опасность заключается в том, что системы ИИ не остановятся ни перед чем, чтобы выполнить миссию.
Помимо проведения испытаний, правительству следует создать агентство по расследованию аварий по образцу Национального совета по безопасности на транспорте, как предложил специалист по информатике Йошуа Бенджио.
Мы признаем, что обязательное тестирование — это строгий стандарт; это также давняя норма для продуктов, которые могут причинить значительный вред. Лекарства, автомобили и самолеты — все они подвергаются тщательному тестированию на безопасность. Некоторые продукты не должны поступать в продажу, пока не будет доказана их безопасность.
Эти три принципа представляют собой неполный список необходимых мер регулирования в области ИИ. Они не затрагивают проблему кражи интеллектуальной собственности компаниями, занимающимися ИИ, или вероятность массовой потери рабочих мест.
Times отмечает две проблемы, связанные с замедлением, а затем и регулированием ИИ. Первая – это возможность того, что замедление развития ИИ может помешать Соединенным Штатам в их гонке за доминирование в области ИИ с Китаем.
«Сегодня американские компании сохраняют лидерство в области ИИ над Китаем, но это преимущество преодолимо. Любое замедление влечет за собой риск его сокращения. Однако последние события настолько тревожны, что любой путь сопряжен с риском. Разумный путь — это решение проблем безопасности при одновременном сохранении лидерства Америки в области ИИ. Для этого Соединенным Штатам следует предпринять действия по замедлению развития ИИ в Китае. Один из способов — ужесточение экспортного контроля и более строгое применение существующих мер для ограничения доступа Китая к передовым полупроводникам, используемым в ИИ, которые в подавляющем большинстве производятся Соединенными Штатами и их союзниками.
Соединенным Штатам также следует стремиться к скоординированному замедлению развития ИИ с Китаем, следуя модели ядерных переговоров с Советским Союзом во время холодной войны. В долгосрочной перспективе международная система надзора за ИИ станет единственным способом защиты людей».
«Другая проблема связана с Трампом. Любое агентство по ИИ, созданное до 2029 года, будет частично подчиняться ему, и он предоставил множество причин, по которым ему нельзя доверять такие полномочия. Он часто лжет и нарушает закон. Он использует власть своего поста для обогащения себя, своей семьи и своих союзников. Он злоупотребляет регулирующими полномочиями, чтобы запугивать компании и заставлять их служить его политическим целям. Все эти проблемы усугубятся при федеральном надзоре за ИИ.
Тем не менее, мир не может ждать до 20 января 2029 года, пока будет введено регулирование в сфере ИИ. Технологии развиваются слишком быстро. До тех пор Трамп — единственный президент в стране. Лучшая надежда — это новое ведомство с максимальным контролем и противовесами.
Сенат должен более тщательно подходить к утверждению кандидатур, чем это было в случае со многими другими должностями в кабинете министров. Конгресс должен осуществлять строгий надзор за деятельностью агентства, как это было в случае с Комиссией по атомной энергии. Внешние эксперты, назначаемые руководством агентства, должны играть центральную роль, и в их число должны входить ведущие ученые, как это было в случае с Комиссией по атомной энергии, которая привлекла Оппенгеймера. Верховный суд должен отстаивать полномочия Конгресса по надзору за агентством, а не подрывать эти полномочия, как это происходило в других областях. Новое агентство должно финансироваться за счет целевого потока доходов, основанного на сборах, уплачиваемых промышленностью, чтобы его деятельность не подрывалась бюджетными разногласиями в Конгрессе.
Как деструктивный характер администрации Трампа, так и геополитическая угроза со стороны Китая создают неудобные компромиссы в регулировании ИИ. Ни то, ни другое не может служить оправданием для бездействия.
Возможности ИИ поражают воображение. Он уже управляет автомобилями, пишет код, улучшает медицинскую диагностику и решает ранее неразрешимые математические задачи. Общество только начинает использовать его огромный потенциал для улучшения жизни. ИИ вполне может проводить научные исследования гораздо быстрее, чем раньше, открывая лекарства от болезней, которые сегодня уносят миллионы жизней.
Из-за потенциальных преимуществ политикам следует действовать осторожно, а из-за неизбежности революций — со смирением, поскольку они неизбежно опровергают ожидания. Однако действовать они должны с большей срочностью. И создатели ИИ, и их критики обоснованно бьют тревогу по поводу темпов его развития и возможности того, что он может причинить больше вреда, чем всё, что когда-либо переживал современный мир.
От нас всех, через наши правительства, зависит, каким станет ИИ».
Администрация Трампа проведет мероприятие ООН по ИИ
Как сообщили CNN* (18.09.2026) многочисленные источники, администрация Трампа проведет 23 сентября мероприятие высокого уровня, посвященное ИИ, в рамках Генеральной Ассамблеи ООН.
Мероприятие в США, на которое приглашены представители многих стран, проходит на фоне того, как вопросы ИИ и безопасности приобрели новую актуальность в связи с серьезными предупреждениями о потенциальной экзистенциальной угрозе, исходящей от ИИ.
Президент США Дональд Трамп резко выступил против идеи государственного регулирования, заявив, что опасения по поводу этой технологии — «обман».
Мероприятие в США запланировано на тот же день, что и заседание Совета Безопасности ООН по вопросам ИИ и безопасности, на котором будут обсуждаться риски, с которыми сталкиваются компании и руководители, занимающиеся ИИ. Ожидается, что генеральный директор OpenAI Сэм Альтман выступит на этом заседании, сообщил представитель OpenAI телеканалу CNN.
Мероприятие в США проведут посол США в ООН Майк Уолц, заместитель госсекретаря по вопросам экономического роста, энергетики и окружающей среды Джейкоб Хелберг и заместитель госсекретаря по вопросам публичной дипломатии Сара Роджерс.
Клэр Меламед, вице-президент по ИИ и цифровому сотрудничеству в Фонде ООН, заявила:
«ООН по-прежнему в значительной степени занимается подготовкой почвы, определением позиций, пытается, как и многие другие организации, выяснить, какой должна быть ее роль», — сказала она.
«Если происходит масштабная кибератака, сгенерированная ИИ, и вы работаете в больнице в Замбии или знаете банк в Ботсване, и эта кибератака начинает распространяться за пределы ваших границ, вы не знаете, что делать, кому позвонить? Часто это ООН», — объяснила она. «К этому проявляется большой интерес, и к роли ООН в обеспечении равного доступа к некоторым инструментам управления и гарантиям в области ИИ очень важно».
Меламед заявила, что не ожидает «конкретных результатов» по итогам заседания Совета Безопасности ООН по ИИ из-за «очень разных позиций среди постоянных членов Совета Безопасности, не говоря уже обо всех остальных членах ООН».
Она сказала, что, по ее мнению, большинство людей будут ждать результатов встречи Трампа и председателя КНР Си Цзиньпина 24 сентября, где ИИ, как ожидается, станет ключевой темой обсуждения.
Подход Трампа к ИИ обусловлен экономической ситуацией в США
«Президент США Дональд Трамп оказался в противоречии с ведущими руководителями компаний, занимающихся ИИ, из-за практически бесконтрольного развития технологий ИИ. И, возможно, это связано с тем, что американская экономика не может позволить себе замедление темпов роста», пишет CNN (18.09.2026).
Может показаться политически нецелесообразным, менее чем за два месяца до промежуточных выборов, так резко занимать позицию, которая не соответствует мнению большинства американцев, подавляющее большинство которых выступает против строительства центров обработки данных рядом с ними и по-прежнему с подозрением относится к вариантам использования ИИ. Но напористый подход Трампа предполагает, что его, возможно, больше беспокоит более важный вопрос: что произойдет с экономикой США, если ажиотаж вокруг ИИ спадет во время его президентства?
Существует множество способов оценить, насколько сильно экономика США зависит от инвестиций в ИИ (и смежные с ИИ технологии). По оценкам ING, инвестиции в технологии, в основном в ИИ и центры обработки данных, составят треть годового экономического роста в 2026 году. Главный стратег по акциям Goldman Sachs недавно заявил CNBC*, что инвестиции в ИИ обеспечивают половину всего роста прибыли в индексе S&P 500.
Экономисты тщательно отмечают, что в этих расчетах всегда есть нюансы. Но одно трудно оспорить: без ажиотажа вокруг ИИ экономика находилась бы в гораздо более слабом положении — возможно, даже в рецессии.
Сторонники ИИ считают его определяющей технологией нашего времени, а заоблачные цены на акции, которые он создает, — лишь одно из многих его преимуществ. По их мнению, при широком внедрении в будущем ИИ значительно повысит производительность, подобно тому, как это сделал интернет на рубеже веков.
Однако в ближайшем будущем любое замедление потребительских расходов рискует подорвать оценку акций, что, в свою очередь, снизит благосостояние домохозяйств и сократит корпоративные инвестиции.
«Если музыка прекратится, и если это произойдет резко и кардинально, то, скорее всего, мы окажемся в состоянии стагнации или откровенного экономического спада как минимум на год», — заявил CNN Олу Сонола, глава отдела экономических исследований Fitch Ratings в США.
Вишенкой на торте, по словам Сонолы, является эффект богатства. Люди, чьи портфели акций подвержены влиянию ИИ, чувствуют себя обеспеченными и тратят деньги без ограничений, что еще больше способствует укреплению ориентированной на потребителя экономики Америки.
Какими бы ни были личные убеждения людей относительно этой технологии, вложенные в нее деньги поддерживают функционирование крупнейшей экономики мира. Если этот денежный поток застопорится, последствия не ограничатся только инвесторами в технологический сектор на Уолл-стрит.
В сентябре рейтинговое агентство Fitch представило сценарий, моделирующий экономические последствия спада, связанного с развитием ИИ, согласно которому цены на американские акции упадут примерно на 35% за шесть месяцев — примерно на уровне медианного падения во время прошлых финансовых кризисов. В результате экономика войдет в рецессию, а ВВП сократится на 1,5% в следующем году.
Безусловно, нет никаких гарантий — или даже конкретных указаний — что «музыка в ближайшее время прекратится», и Fitch отметило, что «резкое падение цен на американские акции не является нашим базовым сценарием».
Тем не менее, многие инвесторы и ученые видят глубоко взаимосвязанную систему, уязвимую для более мелких потрясений.
«У нас сложилась целая экосистема вокруг ИИ, — говорит Джон Седунов, профессор финансов в Университете Вилланова. — Множество компаний очень сильно зависят друг от друга. И когда вы разрываете звено в такой цепочке, это неизбежно приводит к последствиям».
И этот экономический риск может возникнуть в тот момент, когда уже загораются тревожные сигналы. Рынки облигаций сигнализируют о растущей обеспокоенности по поводу государственного долга, дефицитного финансирования и высокой инфляции, которые могут привести к циклу повышения процентных ставок — ситуация, усугубляемая войной в Иране и массовым вложением инвесторов в корпоративные облигации для финансирования развития ИИ.
«Риск образования пузыря на фондовом рынке, безусловно, очень велик для мировой экономики», — сказал Сонола. «Мы видели тарифы, мы видели войну. Что-то еще обязательно произойдет. Мы просто пока не знаем, что именно».
Но есть и оптимисты, которые указывают на то, что потенциал роста по-прежнему огромен.
«То, что мы наблюдаем, очень необычно, поэтому вполне понятно, почему люди обеспокоены», — сказала Джессика Вахтер, профессор финансов в Уортонской школе бизнеса Пенсильванского университета.
Но она не считает, что ажиотаж вокруг ИИ перерастет в такую же волну, как в 2008 году.
«На самом деле я думаю, что ИИ станет своего рода стабилизирующей силой… в целом, способствуя созданию новых рабочих мест и экономическому росту. Хотя, как вы можете заметить, я оптимист. Я знаю, что у других другое мнение».
***
Удивительно противоречивое получилось обращение редакционной коллегии The New York Times:
призыв обеспечить безопасность ИИ путем правительственного контроля с одновременным призывом бороться с человеком, который возглавляет это правительство – с действующим президентом США Дональдом Трампом.
Но такое раздвоение больше похоже на шизофреническую реакцию.
И в конечном итоге может привести к полной потере контроля за развитием ИИ со стороны американского государства.
А инициатива останется в руках разработчиков «передовых» моделей ИИ.
