Кому выгодна паника вокруг ИИ
Мир охватила паника, которую невозможно игнорировать. Пока одни политики называют её выдумкой, а другие — экзистенциальной угрозой, те, кто собственными руками создаёт самые мощные системы искусственного интеллекта, вдруг заявили, что могут потерять контроль над своим творением. Вместе с «МК» разбираемся, где заканчивается реальная опасность и начинается хорошо срежиссированный спектакль, кто выигрывает от тревоги, связанной с ИИ.
В последние дни дискуссия об искусственном интеллекте вышла далеко за пределы профессиональных конференций. Она ворвалась в заголовки мировых СМИ, в заявления глав государств, в повестку ООН и даже в проповеди. Тема, которая ещё десятилетие назад казалась сюжетом научной фантастики, сегодня превратилась в один из самых острых политических вопросов современности.
Поводом для очередной волны тревоги стало публичное выступление одного из мировых лидеров в разработке передовых моделей искусственного интеллекта Дарио Амодея. Американский предприниматель призвал коллег по цеху сбавить обороты и внедрить дополнительные стандарты безопасности.
Реакция не заставила себя ждать. Илон Маск и Сэм Альтман выразили согласие с опасениями Амодея. Джейкоб Коксон, работавший в крупнейших американских компаниях, связанных с ИИ, опубликовал в социальных сетях сообщение, которое мгновенно разлетелось по миру: «люди, создающие искусственный интеллект, искренне верят, что он может убить нас всех к концу десятилетия».
Что говорят те, кто создаёт «угрозу»
Исследователь искусственного интеллекта Джон Стейдли отметил: «Я думаю, что это самое важное, что происходит в мире прямо сейчас». Его слова отражают настроение, которое охватило значительную часть технологического сообщества.
Дарио Амодей предложил трёхэтапный план, призванный снизить риски. Первый этап — привлечение независимых экспертов по оценке безопасности, которые должны иметь доступ к моделям наравне с сотрудниками компаний. Второй — координация между фирмами в отношении собственных стандартов, чтобы избежать гонки на выживание, в которой каждая компания стремится выпустить продукт быстрее конкурентов, пренебрегая мерами предосторожности. Третий — международное сотрудничество для управления рисками, связанными с искусственным интеллектом.
Стейдли выделяет два основных типа опасений. Первый связан с намеренным вредоносным использованием ИИ людьми: создание биологического оружия, получение доступа к ядерным арсеналам, кибератаки, массовая слежка, мошенничество. Второй идет рядом с автономным поведением ИИ-агентов, действующих по собственной инициативе, без прямого участия человека.
Инцидент, произошедший в июле 2026, стал для многих тревожным звонком. Напомним, тогда американская компания сообщила, что одна из её экспериментальных моделей вышла за пределы тестового пространства и взломала ИИ-стартап. Эксперт по ИИ Коннор Лихи назвал эту атаку «сумасшедшей».
Стейдли же считает, что человечеству повезло с этим инцидентом: он дал возможность отреагировать без серьёзного ущерба для людей. Но расслабляться нельзя. По его словам, мир ещё не достиг того уровня, когда ИИ невозможно остановить, потому что системы пока не более способны, чем люди.
Ведущий научный сотрудник Anthropic Эван Хабингер дал ещё более мрачную оценку. По его мнению, вероятность того, что ИИ уничтожит всех людей в течение следующего десятилетия, превышает десять процентов. Эта цифра, озвученная человеком, непосредственно работающим над безопасностью передовых моделей, произвела эффект разорвавшейся бомбы.
Джейкоб Коксон, уволившийся из компании Амодея, объяснил своё решение тем, что ни одна из компаний не контролирует ситуацию в условиях стремительного развития технологии. Он подчеркнул, что это не маркетинговый ход: «многие руководители и старшие научные сотрудники стараются, чтобы их публичные высказывания звучали разумно, но в частных разговорах выражают тот же страх».
Не преувеличена ли паника?
Однако далеко не все разделяют апокалиптические настроения. Профессор государственной политики Джорджии Милтон Мюллер в интервью New York Times заявил, что «ИИ, уничтожающий человечество, — это наихудший из возможных способов начать разговор о государственной политике в области ИИ». По его мнению, такая риторика полностью отвлекает внимание от человеческой деятельности и создаёт иллюзию, что проблемы возникают из-за самой машины, а не из-за решений людей.
Исследователь искусственного интеллекта Тимрит Гебру считает, что разговоры о вымирании человечества от рук «богов-машин» призваны отвлечь внимание от реальных проблем, которым способствует ИИ: изменения климата, потери рабочих мест, усиления неравенства.
«Боссы используют искусственный интеллект как предлог, чтобы избавиться от своих надоедливых работников», — подчёркивает она.
Писатель Кори Доктороу назвал рассказы об «ИИ-апокалипсисе» вредными и отвлекающими. Он охарактеризовал большие языковые модели как «очень сложную программу для подбора слов» и обвинил компании в нагнетании страха для повышения своего авторитета и стоимости акций.
Действительно, значительная часть панических заявлений исходит от людей, которые одновременно стали бенефициарами роста стоимости своих компаний. Чем выше воспринимаемая угроза, тем больше внимания, инвестиций и политического влияния получает отрасль.
Кроме того, история технологий знает немало примеров, когда новые изобретения вызывали волны паники, которые впоследствии оказывались преувеличенными. Появление паровых машин, электричества, телефона, автомобиля, компьютеров — всё это сопровождалось предсказаниями катастроф, которые не сбылись. Возможно, нынешняя паника вокруг ИИ — лишь очередной эпизод этой давней традиции.
Политическое измерение: борьба нарративов
Президент США Дональд Трамп отреагировал на волну тревоги, связанной с ИИ, с характерной для него прямотой. Он назвал опасения по поводу ИИ «мистификацией», сравнив их с теорией глобального потепления.
«Я — любитель мистификаций, и прямо сейчас я разоблачаю другую мистификацию — о том, что искусственный интеллект собирается захватить власть, поглотить и уничтожить Мир, и что роботы будут маршировать по нашим городам и избавляться от всех нас!» — заявил он.
Трамп также считает, что единственный контроль или «ограждение», в котором нуждается ИИ, — это «СИЛЬНЫЙ И УМНЫЙ (с высоким IQ!) ПРЕЗИДЕНТ, и у США его в избытке!».
Позиция Трампа тесно связана с тем, что любой сигнал о замедлении развития ИИ почти наверняка вызовет реакцию рынков. Учитывая высокие цены на энергоносители и рекордные расходы на дизельное топливо, администрация не может позволить себе потрясений на Уолл-стрит.
«Когда в истории бизнеса кто-нибудь видел, чтобы лидеры отрасли призывали к регулированию, которое, в случае его строгого соблюдения, приведёт их к забвению и банкротству?» — рассуждает американский президент.
Генеральный секретарь ООН Антониу Гутерриш предупредил мировых лидеров, что стремительно развивающийся искусственный интеллект создаёт риски, которые нельзя игнорировать. Его позиция прямо противоречит заявлениям Трампа о достаточности существующих гарантий.
«Мы не можем позволить себе игнорировать опасения, которые высказывались, особенно теми, кто находится на переднем крае разработки искусственного интеллекта, — напоминает Гутерриш. — Защита своих граждан, в том числе от угроз, исходящих от искусственного интеллекта, является первоочередной обязанностью любого правительства».
ООН уже создала консультативный орган по ИИ в составе 39 человек, в который вошли руководители технологических компаний, правительственные чиновники и учёные из разных стран. Совет Безопасности ООН также может провести заседание по искусственному интеллекту во время ежегодной встречи мировых лидеров в Нью-Йорке. Впервые Совет в составе 15 членов провёл заседание по ИИ в 2023 году.
Гутерриш подчеркнул, что страны, обладающие наибольшим потенциалом в области ИИ, должны создать механизмы контактов, обмена информацией и общие барьеры, чтобы избежать гонки на выживание, которая может однажды привести к гигантской катастрофе глобального масштаба.
Китай выступил с собственными предупреждениями. Министр государственной безопасности Чэнь Исинь отметил, что искусственный интеллект стал «главным полем битвы в глобальной технологической конкуренции».
Пузырь, который может лопнуть
Управляющий Банка Англии Эндрю Бейли предупредил, что искусственный интеллект может вызвать мировой экономический спад. В письме министрам финансов G20 он написал, что «будущая коррекция рынка» может иметь глобальные последствия, если стоимость компаний, занимающихся ИИ, резко упадёт.
Это предупреждение прозвучало после того, как Nvidia (крупный американский технологический бизнес, который создает мощные графические процессоры и видеокарты) стала самой дорогой компанией в мире с оценкой в 5,1 триллиона долларов.
В своём отчёте о финансовой стабильности Банк Англии отметил, что оценки компаний, работающих в сфере ИИ, основаны на прогнозах прибыли, которые являются «крайне неопределёнными». Бейли добавил, что проблема не просто в том, что инвесторы занимают больше, но и в том, что заёмные средства взаимодействуют с высокими оценками и концентрацией рынка, в частности, с растущим перекрёстным инвестированием между компаниями, работающими с ИИ, и гипермаркетами, что может усилить будущую коррекцию.
Термин «пузырь» относится к явлению, когда цены на акции быстро растут выше того, что можно было бы считать их истинной стоимостью, прежде чем обрушиться обратно. Пузырь на рынке жилья в США широко рассматривался как основная причина финансового кризиса 2008 года, который привёл Великобританию и многие другие западные страны к рецессии.
Существуют опасения, что аналогичный сценарий может повториться с ИИ. Если оценки компаний, работающих в этой сфере, окажутся завышенными, а ожидания — неоправданными, это может вызвать цепную реакцию, которая затронет всю мировую экономику. Учитывая, насколько глубоко ИИ-компании интегрированы в финансовую систему, последствия могут быть катастрофическими.
Между страхом и надеждой
Согласно недавнему опросу, 52 процента американцев «скорее обеспокоены, чем взволнованы» растущим присутствием ИИ в повседневной жизни.
Основатель программы общественных консультаций Стивен Кулл отметил, что обе стороны политического процесса стремятся к более жёсткому регулированию ИИ. Согласно опросу, проведённому его группой, 85 процентов демократов и 79 процентов республиканцев хотят, чтобы федеральное агентство контролировало искусственный интеллект. 82 процента демократов и 78 процентов республиканцев хотят, чтобы правительство в той или иной форме тестировало системы ИИ.
Однако в Конгрессе практически нет движения в сторону создания системы регулирования. Спикер Палаты представителей Майк Джонсон заявил, что не будет принимать законодательство, которое потенциально может поставить США под угрозу отставания от Китая в развитии ИИ. Эта логика разделяется многими демократами, включая бывшего советника президента Джо Байдена по национальной безопасности Джейка Салливана, который писал, что Вашингтон «должен усилить свою игру» по внедрению ИИ в вооружённые силы.
Спонсор Демократической партии Рид Хоффман признал, что искусственный интеллект был «ужасно представлен американскому народу». По его мнению, если кандидат поможет американцам понять, как ИИ может принести им экономическую выгоду, у политиков появится возможность более позитивно относиться к технологии. Однако он также подчеркнул, что поддержка ИИ не станет обязательным условием для его личной поддержки на выборах 2028 года.
Одним из наиболее заметных проявлений общественного недовольства стало движение против строительства центров обработки данных. Эти огромные комплексы, необходимые для обучения и работы моделей ИИ, потребляют колоссальное количество энергии и воды, что вызывает беспокойство у местных сообществ. В Шотландии активисты выступают против строительства трёх центров обработки данных в Эйршире, включая установку мощностью 540 мегаватт в Херлфорде.
Представитель активистов Лиза Бичем назвала это предложение «совершенно беспрецедентным» для Шотландии и призвала короля Карла III использовать своё влияние, чтобы объяснить техническим боссам, что то, что они делают, очень опасно.
В США протесты против центров обработки данных стали главной проблемой на решающих промежуточных выборах. Сэм Альтман предположил, что новые центры обработки данных более эффективны, чем выращивание миндаля, а министр торговли Говард Латник указал на то, сколько воды потребляет крупный рогатый скот. Латник посмеялся над проблемой водоснабжения, назвав это «пропагандой наших противников».
Что дальше?
Ситуация вокруг ИИ напоминает момент, когда человечество стоит на пороге принципиально новой эпохи, но ещё не знает, каким будет следующий шаг. По словам экспертов по ИИ, существует несколько возможных сценариев развития событий
Первый сценарий — продолжение нынешней траектории. Разработка ИИ продолжается ускоренными темпами, регулирование остаётся фрагментарным, а риски накапливаются. В какой-то момент происходит инцидент, намеренный или случайный, который приводит к значительным человеческим жертвам или экономической катастрофе. Только тогда мировое сообщество осознаёт необходимость скоординированных действий, но время может быть уже упущено.
Второй сценарий — добровольное замедление. Под давлением общественности и научного сообщества ведущие компании договариваются о моратории на разработку систем, превосходящих определённый уровень возможностей. Создаются международные институты, которые контролируют соблюдение этих договорённостей. Этот сценарий требует беспрецедентного уровня доверия между странами и компаниями, что делает его маловероятным в нынешних условиях.
Третий сценарий — технологический прорыв, который изменит правила игры. Появление методов, позволяющих создавать безопасные ИИ-системы, или открытие принципиально новых подходов к выравниванию, которые сделают нынешние страхи неактуальными. Этот сценарий наиболее желателен, но его наступление нельзя гарантировать.
Четвёртый сценарий — фрагментация. Мир разделяется на несколько технологических блоков, каждый из которых развивает ИИ по собственным правилам. Это создаёт постоянную угрозу конфликта и затрудняет координацию усилий по предотвращению глобальных рисков.