Трамп показал уничтожение иранского нефтяного терминала, которого не было
Когда-то фотография считалась неоспоримым доказательством произошедшего события. Потом таким доказательством стало видео. «Я сам видел» — последняя инстанция человеческой убежденности. Можно спорить о мотивах политика, показаниях свидетеля, газетной публикации. Но если перед вами видео с упавшим самолетом, показана воронка от взрыва или руины разрушенного здания — о чем еще можно говорить?
Кажется, теперь говорить придется обо всем…
На днях президент США Дональд Трамп опубликовал два видео, на которых огромные взрывы уничтожают нефтяной терминал на иранском острове Харк — это главный центр экспорта нефти страны. Подпись сомнений не оставляла: «Kharg island being blown to smithereens!!!» — остров Харк разносят в клочья.
Вот только никто его в клочья не разносил.
Reuters установил, что опубликованные президентом США ролики были созданы искусственным интеллектом. Американский чиновник подтвердил агентству: по Харку американские военные не наносили никаких ударов. Иранский представитель назвал публикацию «смехотворной». Вице-президент Джей Ди Вэнс позднее объяснил произошедшее своеобразно: президент таким образом «посылал сигнал».
Сигнал получился впечатляющим… Интересно, а сам Трамп знал, что публикует ИИ-контент?
Тем более что видео появилось, когда США и Иран снова обменивались вполне реальными ударами. Нефть дорожала, через Ормузский пролив проходило значительно меньше судов, чем обычно, рынки пытались понять, не начинается ли новый виток войны. Brent к 1 сентября поднялась выше 91 доллара за баррель. И в этот момент президент крупнейшей военной державы мира показывает сгенерированное изображение уничтожения стратегического объекта.
Можно, конечно, сказать: ну и что? Интернет-шутка. Мэм. В сети таких полно по любому поводу. Но проблема заключается именно в том, что пользователю об этом сообщили уже постфактум. А сначала он увидел взрывы.
«А вот и видео»
Поддельные свидетельства, пропаганда и военные инсценировки появились, разумеется, задолго до эпохи ИИ. История войн, и об этом вам скажет любой эксперт, во многом является историей фейков и пропаганды.
В 1990 году перед началом войны в Персидском заливе мир потрясли откровения 15-летней кувейтской девушки Найиры. Та рассказала перед камерой, как иракские солдаты якобы вытаскивали кувейтских младенцев из больничных инкубаторов и оставляли тех умирать на полу. Позже выяснилось, что Найира была дочерью кувейтского посла в США, а ее публичное выступление готовилось в рамках пропагандистской PR-кампании…
Вот так вот.
Перед вторжением в Ирак в 2003 году уже не подготовленная девочка, а представители американского руководства стращали оружием массового поражения от Саддама Хусейна. Как известно, такое оружие не обнаружили, тем не менее, «Буря в пустыне» началась, и в итоге иракский президент был повешен.
Еще раньше, в 1964 году, сообщения о втором нападении северо-вьетнамских катеров на американские корабли в Тонкинском заливе помогли Белому дому получить практически неограниченные полномочия для расширения войны во Вьетнаме. Позднее рассекреченные материалы поставили сам факт второго нападения под серьезное сомнение.
Но во всех этих историях между событием и зрителем еще оставалась довольно длинная дистанция. Сначала кто-то что-то говорил. Затем разведка предоставляла донесения, появлялись интервью, свидетельства, журналистские расследования. И сами по себе они все-таки войн не начинали, хотя вполне могли становиться одним из аргументов в их пользу.
Как бы там ни было, еще полвека назад подобные фальшивые свидетельства готовили дотошно, стараясь особенно не лажать и не выставлять на всеобщее обозрение заведомую неправду. Здесь кусочек фальши, там немного недосказанности, еще где-нибудь слегка пофантазировать — и в результате получалась вполне убедительная картина. Такая, которую попробуй еще опровергни.
Сирия: кто снял химатаку
Наверное, одним из главных предвестников нынешней эпохи фейков стала война в Сирии. После сообщений о нескольких химических атаках по всему миру распространялись страшные кадры: задыхающиеся люди, дети в больницах, спасатели «Белых касок», которым промывают глаза и снимают с пострадавших одежду.
Одни утверждали: вот доказательство применения химического оружия Башаром Асадом. Другие — что это постановка. Третьи разбирали положение тел, баллоны, монтаж, поведение врачей и спасателей буквально по кадрам. Одни и те же изображения становились доказательством совершенно противоположных версий.
Я хорошо помню август 2013 года и сообщения о химической атаке в сирийской Гуте. Мир тогда увидел страшные видеокадры. Позднее миссия ООН установила, что в нескольких районах Гуты действительно был применен зарин. Но у меня были и свои свидетели той войны. Мои близкие друзья в это время находились именно в том месте и рассказывали мне совершенно другую картину. Они утверждали, что не видели того, что видел на экранах весь мир. И что это была художественная съемка.
Можно возразить: мои товарищи могли быть не конкретно в той точке. Могли чего-то не знать или куда-то не доехать. Свидетель вообще видит только маленький осколок огромного события. Все так. Но я знаю этих людей много лет. И я им верю. И поэтому с тех пор у меня остался вопрос, на который я так и не смогла ответить окончательно: что делать человеку, когда собственный источник, которому он доверяет, говорит одно, а официальное расследование и изображение на экране — совсем другое?
Причем 13 лет назад искусственный интеллект ещё не научился за несколько минут создавать видеозапись события, которого никогда не происходило. А сейчас снять фальшивую химическую атаку в любой точке планеты дело нескольких минут. Даже лететь никуда не нужно. Для создания «доказательства» вообще не нужна съемочная площадка. Нужен просто грамотный запрос к нейросети.
Война, которой еще не было
Представим ситуацию, которой пока, слава богу, не произошло. Главе государства показывают видеозапись. На ней — ракета противника поражает военную базу. Видны взрывы, тела, горящие самолеты. Советники сообщают: нападение подтверждено. У президента есть всего несколько минут на принятие решения. И он не обладает критическим мышлением, не способен определить, ИИ это или нет. Но видео выглядит абсолютно настоящим. Он отдает приказ об ответном ударе. А через два часа, когда от нашей планеты ничего уже не останется, выясняется, что никакой атаки не было.
Или еще один вариант. На кадрах — нападение, которого не существовало. Под ними заявление: наша страна подверглась атаке, мы вынуждены защищаться. Через несколько минут запись смотрят сотни миллионов человек. Телевизионные каналы ставят ее в эфир. Биржи падают. Армии приводятся в боевую готовность. Депутаты требуют ответа.
На проверку понадобится несколько часов. На запуск ракеты — значительно меньше. После сгенерированного взрыва на Харке это уже не выглядит такой уж фантастикой.
Кто теперь свидетель?
Reuters буквально за несколько дней до истории с Трампом отдельно рассказывал, как работает его команда визуальной верификации. Журналисты устанавливают авторов видео, изучают метаданные, сопоставляют изображение со спутниковыми снимками, погодой, другими кадрами с места событий. Используются и детекторы ИИ, хотя само агентство предупреждает: они далеко не безошибочны. То есть для ответа на простой когда-то вопрос «было ли это?» теперь требуется почти криминалистическое расследование.
Но у обычного человека такой лаборатории нет. Он увидел видео в телефоне — и поверил. И бог с ним, если это простой человек. А если он вершитель судеб? И что потом? Мы начнем сомневаться не только в поддельных изображениях, но и в настоящих тоже. Политика обвиняют во взятке — «нейросеть». Появилась запись расстрела мирных жителей — «дипфейк». На видео чиновник произносит то, чего произносить не должен, — «монтаж».
Парадоксально, но генеративный ИИ способен защитить от ответственности не только того, кого оболгали с помощью подделки. Он даст алиби даже тому, кого поймали на настоящем преступлении.
В истории человечество уже много раз начинало войны из-за ошибочной, неполной или намеренно искаженной информации. Новизна сегодняшнего момента в другом. Раньше ложь должна была убеждать нас, что событие произошло. Теперь она может его показать. Так мы незаметно подошли к «красной линии».
Пока сгенерированное уничтожение острова можно объяснить политическим сигналом, интернет-экспериментом или своеобразным способом запугать противника. Но что произойдет, когда следующий ролик окажется еще убедительнее предыдущего? Когда отличить его от реальности не сумеет не только рядовой пользователь социальной сети, но даже специально обученные для этого специалисты?
Каждый раз лететь на остров Харк, чтобы потрогать его и удостовериться, что он стоит на месте?