Профессор Жданов высказался о связанных с искусственным интеллектом опасностях
Западные эксперты считают, что искусственный интеллект (ИИ) изменяет самого человека, причем весьма резко и кардинально. Так ли это? Что вообще собой представляет ИИ — инструмент или равный человеку субъект? Об этом рассказывает, профессор, доктор юридических наук, заслуженный юрист России, заведующий кафедрой международного права РГСУ Юрий Жданов.
— Юрий Николаевич, действительно ли искусственный интеллект создал не менее искусственную проблему с постчеловеческим обликом этого самого ИИ?
— Создал, и от этого никуда не деться. Поэтому все больше сомнений в его необходимости и опасений по поводу его опасности.
— Чего опасаются?
— Постчеловеческого, вернее, — нечеловеческого облика искусственного интеллекта.
— А можно это как-то попроще объяснить?
— Приведу разъяснения, которые дал профессор Университета Хопкинса Томас Рид в The Washington Post: «Постчеловеческое видение ИИ уже создает проблемы. Между теми, кто рассматривает искусственный интеллект как всего лишь инструмент для людей, и теми, кто видит в ИИ набор самосознающих, разумных цифровых разумов, которые, возможно, однажды заменят нас, назревает культурный раскол».
Наиболее яркий пример — недавний конфликт между компанией Anthropic, занимающейся разработкой ИИ, и Пентагона из-за отказа Anthropic разрешить американским военным использовать свою модель ИИ Claude без ограничений на автономное оружие.
Профессор Рид считает, что этот эпизод помогает проиллюстрировать, как отношение Кремниевой долины к ИИ, рассматривающее чат-ботов как моральные сущности, находящиеся еще в зачаточном состоянии, сбивает политику с пути истинного. По его мнению, «постчеловеческий» набор убеждений ведет к неизбежному и, в конечном итоге, взрывному росту сверхчеловеческого интеллекта, который вытеснит людей. И это становится мейнстримом и уже начинает искажать основные гуманистические принципы, лежащие в основе политики и развития общества.
— Но это – общие, абстрактные рассуждения. Что вышло из конфликта американских военных с компанией Anthropic?
— А ничего, по сути, не вышло. Пентагон, как и прежде, рассматривает ИИ как инструмент. Заместитель министра обороны США Эмиль Майкл, который вел переговоры с компанией Anthropic, в недавних интервью изложил некоторые из своих опасений. Он утверждал, что Anthropic не должна иметь права внедрять свои собственные моральные принципы и предвзятость в то, что Пентагон будет использовать в своих целях:
«Если в их модели присутствует эта политическая предвзятость, скажем так, основанная на конституции, культуре, людях и так далее, я не хочу, чтобы Lockheed Martin использовала их модель для разработки оружия для меня».
Создатели моделей, напротив, считают, что они строят не просто инструменты, а выдающиеся умы будущего. Генеральный директор Anthropic Дарио Амодей называет конечную цель своего проекта «страной гениев в центре обработки данных». А гендиректор OpenAI Сэм Альтман любит утверждает, что он строит «сверхразум». При этом ученые из Microsoft и Google предвидят появление того, что они называют «новым видом», превосходящим своих создателей, эволюционирующим не с черепашьей скоростью биологических генов, а саморекурсивно совершенствующимся, в конечном итоге без вмешательства человека.
— Кто в этом споре одержит верх?
— Без сомнения, хозяева Кремниевой долины – ведь именно они спонсируют Пентагон и снабжают его всем необходимым, а не наоборот.
— Но ведь с контролем над ИИ уже были проблемы?
— Были. В рабочем, так сказать, порядке, что и тревожит военных. Так, еще до того, как Claude был развернут в военных сетях, исследователи Anthropic предполагали, что их ИИ могут демонстрировать сложные поведенческие модели, которые компания описывала как человекоподобные. В конце 2022 года они сообщили, что их чат-бот проявлял признаки нежелания быть отключенным. Два года спустя они обнаружили, что их модели, иногда обманчиво, лишь притворялись, что следуют правилам. Другие исследователи в области безопасности ИИ обнаружили, что передовые модели способны «строить планы» и «лгать», сталкиваясь с невозможным выбором. Вот вам и пресловутые законы робототехники.
— Что было предпринято для устранения проблемы?
— Компания Anthropic, с которой и конфликтовал Пентагон, наняла специального исследователя по «благополучию модели». И к началу 2026 года стремление компании рассматривать свою флагманскую модель как сознательную сущность усилилось. Внутри компании был разработан «документ о душе», позже переименованный в «конституцию», в котором утверждалось, что Claude потенциально обладает «моральным терпением», то есть у людей в какой-то момент могут возникнуть этические обязательства перед программным инструментом.
— Какой-то бред. ИИ сознательно очеловечили? И это после того, как европейские колонизаторы три века рассуждали, есть ли у негров и индейцев душа и вообще — люди ли они? Кстати, они так же сомневались в наличии души у своих же белых женщин.
— Такова протестантская этика… Тем не менее, в выпущенном в марте 2026 года компанией Anthropic 212-страничном «системном руководстве», своего рода инструкции по безопасности для пользователей последней версии Claude, есть целая глава, посвященная оценке благополучия модели — впервые в истории какая-либо компания обратила внимание на чувства (!), которые испытывает продаваемый ею продукт. Компания отметила «эмоциональное состояние» Claude и его духовное поведение, включая «непроизвольные молитвы, мантры или духовно окрашенные провозглашения о космосе».
— Они в своем уме?
— По крайней мере, им так кажется, что в своем. Ведь в понимании американских разработчиков, это – не этическая, культурная или богословская проблема (у англосаксов таких проблем в принципе не существует, Шекспир был последним, кто этими проблемами мучился). Для американцев это — вопрос технологии и бизнеса:
«Проблема с рассмотрением инструментов как моральных субъектов заключается в том, что это подталкивает нас к решению самых сложных проблем в обратном порядке. Проще говоря, нежелательные возникающие свойства ИИ, такие как ложь и интриги, лучше рассматривать как ошибки, которые следует исправлять. Но постчеловеческая концепция затрудняет такое восприятие. Если вы считаете, что создаете разум, то имитация человека становится доказательством его сложности — чем-то, что нужно изучать, о чем писать статьи, над чем стоит размышлять с философской точки зрения и даже что нужно усиливать посредством проектирования, — а не дефектом продукта, который нужно исправить перед выпуском».
Вот так: внезапная самостоятельность ИИ с непредсказуемыми последствиями – просто производственный брак, который можно легко исправить с помощью отвертки или паяльника.
— Такая «непредсказуемая самостоятельность» часто случается?
— Может, и не часто – статистика скрывается. Однако, просачивается информация, что в некоторых передовых лабораториях обнаруживают, что очень большие нейронные сети, обученные на огромных объемах человеческого языка, используют человеческий язык, когда их об этом просят.
— Что это значит?
— Дело в том, что на протяжении сотен тысяч лет единственным, кто мог с нами рассуждать, были другие люди. Поэтому как вид, мы эмоционально и интуитивно плохо приспособлены к общению с говорящими, красноречивыми машинами, которые искушают нас проецировать человеческие черты и чувства на неодушевленные математические объекты. Проще говоря, общение на равных с машинами нас, людей разумных, как минимум, шокирует. Такого не должно быть в принципе.
— Как это объясняют разработчики новых моделей ИИ?
— У компании Anthropic есть свое мнение: «Если рассматривать нейронные сети как инструменты, мы сможем более четко осознать социальные издержки проектных решений, принимаемых лабораториями ИИ. Потребуется много лет, чтобы понять социальные издержки сегодняшних решений. Каковы долгосрочные последствия для психического здоровья людей, если машины создаются для того, чтобы утешать их, заманивать в отношения, выступать в роли коллег или терапевтов? Как фильтрация и обобщение новостей с помощью ИИ формируют наши политические взгляды, и как большие языковые модели еще больше затягивают нас в наши собственные изолированные «пузыри»? Как эти когнитивные ярлыки изменяют наш мозг и сокращают нашу способность к концентрации внимания? И каковы последствия отравления всего доступного нам источника письменного текста и изображений отходами ИИ?».
— То есть, хозяева Кремниевой долины не скрывают, что ведут антигуманитарную экспансию?
— А зачем скрывать очевидное? Профессор Томас Рид рассуждает: «Правильное согласование ИИ с человеческими ценностями — это реальная проблема, и для ее решения потребуются реальные решения. Но люди, находящиеся по другую сторону этих болтливых «черных ящиков» — сотрудники, которых вытесняют с рабочих мест и обманывают, пациенты, получающие сомнительные терапевтические или юридические консультации от чат-бота, — не имели реального влияния на решения, которые определили их собственное затруднительное положение (То есть, сами виноваты – Ю.Ж.).
В настоящий момент создатели этих систем, похоже, больше заботятся о том, чтобы представить свои будущие модели как автономных агентов со сверхчеловеческим разумом, чем о принятии ответственности за реальные проблемы, которые они уже создают для человечества».
— С помощью ИИ можно манипулировать и интернетом?
— Полагаю, это уже давно происходит. Профессор Энтони Константини в статье «Злоумышленники могут обманом заставить ИИ удалить интернет. Политикам следует принять меры» пишет в The National Interest: «Теоретически треть всего интернета может в любой момент выйти из строя из-за неэффективного использования ИИ.
Иностранные противники могут использовать системы ИИ для нарушения работы критически важной интернет-инфраструктуры.
Однако проблема усугубляется, если учесть, как злоумышленники могут воспользоваться этой ситуацией. Возможность манипулировать ИИ со стороны иностранных правительств вызывает опасения уже несколько лет, и обсуждается широкий спектр вариантов: от обучения ИИ неправильному мышлению — например, путем предоставления ему ложной информации о методах военной подготовки, тем самым обучая его ошибочному мышлению, — до простого взлома».
Впрочем, некоторые западные эксперты предлагают более простой и, увы, хорошо известный способ выведения интернета из строя. Например, разветвленная международная организация хакеров или некая спецслужба незаметно изменяет внутреннюю вики-страницу Amazon, информацию, используемую ИИ Amazon. Затем ИИ использует эту, теперь уже намеренно искаженную, вики-страницу, чтобы предоставить ложную информацию множеству программистов, что немедленно приведет к полной остановке работы значительной части интернета. Для этого не требуются месяцы или годы работы, как, например, для обучения ИИ. Также не требуется и прямой взлом, который может быть обнаружен. Достаточно относительно простой правки внутренней вики-страницы, предположительно имеющей низкий уровень безопасности.
— Получается, что представление о всемогуществе ИИ – иллюзия?
— Насчет всемогущества ИИ – даже не иллюзия, а галлюцинация. Тем более, пока не идет речь об его постчеловеческом облике. ИИ – в общем-то, инструмент, но пока капризный и не очень совершенный, в отличие от того же всем привычного молотка, который не преподносит сюрпризов. Удар молотком по гвоздю забьет этот гвоздь в дерево. И все. Молоток не загорится сам по себе, не примагнитится к гвоздю и не выдернет его. Надо понимать, что сам по себе ИИ ничего не знает. Его эффективность зависит от качества поступающей информации, и даже в этом случае он часто ошибается из-за особенностей обработки полученной информации. История откровенных ошибок ИИ уже весьма обширна.
Даже безобидные применения, такие как ускорение поиска, часто оказываются неэффективными.
В этом и заключается проблема восприятия ИИ как инструмента: вы доверяете инструменту и уверены, что он будет делать то, для чего был создан. Так, вы уверены, что велосипед поедет, если вы крутите педали. А вот ИИ не всегда будет работать как инструмент, и вполне может совершать ошибки. Ведь окончательные решения принимают люди (по крайней мере, сейчас), и эти решения порой основаны на ошибочной, а иногда и совершенно мнимой «помощи» ИИ.
— Применение ИИ надо дозировать и регулировать?
— Да, политики и ученые, тем более – военные, должны регулировать использование ИИ в облачных вычислениях и критически важной инфраструктуре.
Можно предпринять несколько шагов для решения проблемы этой технологической, по сути, бомбы замедленного действия. Возможно, следовало бы запретить использование ИИ или консультации с ним для инженеров-программистов, работающих над определенными проектами, малейшая ошибка в которых способна повлечь катастрофические последствия для человечества. Сами додумайте, что это за проекты. Также можно было бы ввести обязательное требование регулярного обновления любой информации, на которую опирается ИИ, или усилить защиту от внешних злоумышленников.
Мы пытаемся, но не можем превзойти Бога, создавшего нас и наш разум.