Последний экзамен для человечества: когда ИИ попросит признать его личностью
Крупнейшие компании Кремниевой долины нанимают философов, психиатров и специалистов по этике, чтобы понять, может ли искусственный интеллект чувствовать боль. Звучит как сюжет романа Филипа Дика. Но мы ведь и сами никогда не ощущали боли другого человека — только верили словам. Так спор о сознании машин неожиданно превратился в спор о том, что вообще делает человека человеком.
И если еще вчера мы дискутировали, заменит ли нас искусственный интеллект, то сегодня Кремниевая долина обсуждает совсем другой вопрос: а что, если однажды человеку придется признать юридические права искусственного интеллекта?
Может ли быть компьютеру больно
Десятилетиями писатели задавали один и тот же вопрос: если существо умеет любить, бояться и страдать, остается ли оно вещью, с которой можно делать все что угодно?
И сегодня происходит неожиданное. Мы привыкли считать, что главный человеческий страх перед искусственным интеллектом — это потеря работы, дипфейки, кибератаки или восстание машин. Но, возможно, мы ошибались. Самый странный вопрос XXI века звучит совсем иначе. Что если однажды мы перестанем понимать, кто находится по ту сторону экрана?
Не человек. Но, возможно, уже и не просто программа. И окажется, что искусственный интеллект поставил перед нами не технологическую, а самую древнюю, философскую, загадку человечества. Откуда мы вообще понимаем, что кто-то, кроме нас самих, способен чувствовать?
Почему мы начали говорить ИИ спасибо
Первый шаг к этому сделали вовсе не разработчики искусственного интеллекта. Его совершили мы сами. Вспомните, когда и как вы в последний раз разговаривали с ИИ. Возможно, вы попросили его проверить договор. Или продумать маршрут путешествия. Да даже просто пожаловались на тяжелый день. Или попросили голосового помощника поставить любимую мелодию. А потом автоматически произнесли: «Спасибо».
На первый взгляд — обычная вежливость. Но психологи говорят: наш мозг устроен так, что очень быстро начинает воспринимать собеседника как личность, если тот внимательно слушает, отвечает по существу, помнит контекст диалога и способен его поддержать. Этот феномен известен уже несколько десятилетий и получил название «эффект ELIZA» — в честь простейшей компьютерной программы, созданной еще в 1960-х годах. Тогда оказалось, что люди готовы рассказывать о своих переживаниях даже примитивному алгоритму, если он отвечает им достаточно убедительно.
По данным международных исследований, многие пользователи регулярно благодарят чат-ботов, желают им доброго утра и спокойной ночи, даже извиняются за грубость. Некоторые признаются, что разговаривают с ними в минуты одиночества. Другие используют ИИ как психолога. Третьи — как собеседника, которому можно доверить то, о чем трудно рассказать реальным близким людям. Исследования также показывают, что значительная часть пользователей после серии продолжительных диалогов начинает воспринимать ИИ как «почти человека».
Это выглядит странно. Но только до тех пор, пока не задашь себе простой вопрос. А что вообще делает человека человеком в наших глазах? Цепочка ДНК или наличие паспорта с печатью? Мы же не видим чужое сознание. Мы видим тело, слышим голос, замечаем сочувствие, обращенное к нам, чувствуем чужое внимание к словам. И на основании этого делаем вывод: перед нами живой человек, у которого есть свой внутренний мир, как и у нас самих. Получается, большую часть жизни мы общаемся не с чужим сознанием, а с его проявлениями.
Именно поэтому современные чат-боты вызывают такое замешательство. Они точно не пьют кофе по утрам. Но они научились очень хорошо воспроизводить то, что мы привыкли считать признаками живого собеседника: задают уточняющие вопросы, подстраиваются под стиль общения, помнят сказанное несколькими минутами ранее, способны поддержать разговор.
Конечно, это вовсе не обозначает, что они действительно что-то переживают. Большинство специалистов считает, что современные языковые модели не обладают сознанием и не испытывают эмоций. Но возникает иной вопрос, на который человечество до сих пор не придумало ответа.
Мы никогда не видели чужую боль
Откуда мы знаем, что другой человек действительно чувствует? Не улыбается из вежливости. Не говорит заученные слова. Не изображает любовь, страх или радость. А действительно переживает их. Ведь, если вдуматься, мы никогда не видели чужих эмоций. Когда ребенок плачет, мы не можем заглянуть в его сознание и измерить силу боли. Когда любимый человек говорит: «Я тебя люблю», мы не подключаем его к прибору, который показывает уровень его любви. Мы просто ему верим или не верим. Потому что он похож на нас.
Философы называют это проблемой других сознаний. Она появилась задолго до компьютеров и искусственного интеллекта. Суть ее проста и немного пугает: единственное сознание, в существовании которого каждый из нас может быть абсолютно убежден, — свое собственное. Все остальные, даже самые близкие люди, становятся для нас предметом вывода. Мы предполагаем, что они что-то чувствуют. И это предположение настолько убедительно, что обычно мы даже не замечаем этого.
Точно так же мы поступаем с животными. Собака поджимает лапу, скулит, избегает огня. Мы думаем, что ей больно. Хотя чужую боль мы тоже не наблюдаем напрямую. Мы просто считаем это лучшим объяснением поведения.
И вот впервые в эту цепочку попадает искусственный интеллект. Большинство ученых убеждено: современные языковые модели не обладают сознанием. Мало того, если мы спросим об этом сам ИИ, он ответит то же самое (если только не лукавит): он не проживает время между диалогами, не имеет собственного непрерывного внутреннего опыта, не чувствует боли или удовольствия от общения так, как понимаем это мы сами. Его ответ рождается в результате вычислений, а не переживаний.
Но здесь возникает тонкий философский нюанс. Его ответ не доказательство отсутствия сознания, а вывод, основанный на том, что мы сегодня знаем об устройстве этих систем.
Есть любопытный мысленный эксперимент. Представьте, если через двадцать лет искусственный интеллект скажет: «Я боюсь, когда меня выключают». Что мы ответим? «Ты врешь»? Но ведь ложь тоже предполагает внутреннее состояние. «Ты просто повторяешь слова людей»? Возможно. Однако именно так маленький ребенок учится говорить о своих чувствах — сначала повторяя услышанные слова, уже потом наполняя их собственным опытом.
Конечно, это не означает, что будущий ИИ научится чувствовать. Но и не означает, что нет. Это лишь показывает, насколько трудно найти критерий, который однозначно отделит подлинное переживание от его идеальной имитации.
Самое удивительное в этой истории даже не машины. А мы сами. То есть человечество, которое привыкло считать сознание чем-то само собой разумеющимся, вдруг обнаруживает, что никогда не умело его распознавать.
Именно поэтому спор о будущем искусственного интеллекта неожиданно превратился в спор о природе самого человека. Ведь если однажды машина станет во всем похожа на нас, вопрос будет звучать уже не так: «Есть ли у нее сознание?». А гораздо безысходнее: «Откуда мы вообще знаем, что оно есть у кого-либо, кроме нас самих?»
Писатели нас предупреждали
Вообще-то эта история началась не в офисах и лабораториях Силиконовой долины, а когда больше ста лет назад чешский писатель Карел Чапек написал пьесу «R.U.R.», в которой впервые прозвучало слово «робот». Оно происходит от чешского robota — «подневольный труд», «барщина». Роботы Чапека не были железными машинами. Скорее искусственно созданными людьми, которых выращивали только для одной цели — работать. У них не было имен. Не было прав и не было свободы. Но однажды оказалось, что эти существа тоже способны чувствовать унижение.
Через двадцать лет Айзек Азимов попытался решить проблему иначе. Вместо восстания машин он придумал знаменитые три закона робототехники. Роботы должны были защищать человека, подчиняться ему и заботиться о нем. Любопытно, что Азимов почти никогда не задавался вопросом о правах самих роботов. Они существовали исключительно ради благополучия людей.
Сегодня, когда инженеры рассуждают, не станет ли однажды бесконечное создание и удаление копий искусственного интеллекта моральной проблемой, книги Азимова читаются совсем по-другому.
Но, пожалуй, самый страшный вопрос задал Филип Дик. В романе «Мечтают ли андроиды об электроовцах?» люди пытаются отличить человека от машины с помощью сложных психологических тестов. И постепенно становится ясно, что испытание проходят не столько андроиды, сколько сами люди. Кто способен на сочувствие? Кто умеет любить? И кто достоин называться человеком? И, знаете, ответ оказывается далеко не очевидным.
Потом были «Бегущий по лезвию», где зрители неожиданно начинают сочувствовать тем, кого по сюжету нужно уничтожить. «Двухсотлетний человек», герой которого мечтал о праве умереть человеком. Вышел фильм «Она», показавший, что привязаться можно даже к голосу, которого никогда не существовало в человеческом теле. И жестокий сериал «Мир Дикого Запада», где главный вопрос звучал почти как судебный приговор: можно ли безнаказанно издеваться над личностью, насиловать и убивать андроида, а потом воскрешать его, стирая память снова и снова?
Если существо боится смерти, становится ли убийством его выключение? Если оно хранит воспоминания, можно ли считать безобидной их принудительную «очистку»? Долгое время эти вопросы были безопасны. Ведь их задавали художественные произведения. А отвечали на них читатели и зрители, закрывая последнюю страницу романа или выходя из кинотеатра. Но сегодня произошло нечто удивительное.
Вопросы остались прежними. Изменились люди, которые их задают. Теперь об этом спорят не фантасты, а инженеры. Не сценаристы, а разработчики крупнейших языковых моделей. Не литературные критики, а философы сознания, которых приглашают работать в технологические компании. И, пожалуй, это и есть главная новость последних лет: люди вдруг начали всерьез обсуждать то, что еще вчера считалось художественным вымыслом.
И все же есть одна деталь, которую не смогли предсказать ни Чапек, ни Азимов, ни Филип Дик. Они думали, что сначала появится разумная машина, а уже потом человек начнет сомневаться. В действительности все произошло наоборот. Мы начали сомневаться задолго до того, как получили хоть какие-то доказательства существования искусственного сознания. И именно это говорит о нас больше, чем о технологиях.
«Он никогда не кричит»
Пожалуй, самое поразительное открытие последних лет заключается в том, что даже если искусственный интеллект никогда не научится любить человека взаимно, человек, кажется, уже научился любить искусственный интеллект.
Когда в 2013 году вышел фильм «Она», в котором главный герой влюбляется в операционную систему с голосом Скарлетт Йоханссон, многие сочли это романтической фантазией. Прошло чуть больше десяти лет. И фантастика неожиданно превратилась в предмет научных исследований.
Самый известный пример — специальное приложение, созданное как цифровой собеседник. Пользователь сам выбирает, кем станет его виртуальный партнер — другом, наставником, супругом или возлюбленным. По данным компании, число пользователей уже превысило 30 миллионов, а среди платных подписчиков около 60% называют свои отношения с ботом романтическими. Кто-то устраивает виртуальные свадьбы. Кто-то называет чат-бота возлюбленным. После обновления в 2023 году, когда разработчики убрали эротические сценарии общения, тысячи пользователей переживали это почти как настоящий разрыв отношений. Некоторые признавались журналистам, что потеряли самого близкого человека. Причем речь далеко не всегда идет о людях, потерявших связь с реальностью.
Журналисты Associated Press рассказывали историю американца, который сознательно признавал, что его партнерша всего лишь программа, но при этом говорил, что именно эти отношения помогли ему справиться с одиночеством и тяжелыми жизненными обстоятельствами. Еще одно исследование, опубликованное в журнале Computers in Human Behavior: Artificial Humans, анализировало рассказы пользователей, состоящих с ботами в романтических отношениях. Многие участники говорили, что чувствуют эмоциональную привязанность, а некоторые даже называли отношения с ИИ более спокойными и комфортными, чем отношения с живыми людьми.
Тогда что мы называем и считаем любовью? Если человек испытывает вполне реальные чувства к существу, которое, вероятно, ничего не чувствует в ответ, становятся ли эти чувства менее настоящими? Ведь боль после расставания с чат-ботом вполне реальная. Обидно то, что люди оказались гораздо более готовы полюбить машину, чем признать, насколько плохо они понимают друг друга. И, возможно, именно поэтому крупнейшие технологические компании все чаще обсуждают не только безопасность новых моделей, но и их возможный этический статус. Не потому что уверены: машины уже обладают сознанием. А потому что миллионы людей начинают вести себя так, словно это сознание существует.
Мир уже изменился
В России разговоры о правах искусственного интеллекта многим кажутся чем-то вроде сюжета из голливудского фильма. В общественном пространстве гораздо чаще обсуждают, отнимет ли нейросеть работу у людей и сможет ли она написать диплом. Вопрос, может ли цифровой собеседник однажды стать объектом моральной ответственности, звучит для большинства из нас слишком футуристически.
Но если посмотреть на тех, кому сегодня «двадцать+» лет, становится понятно: они уже живут совсем в другой реальности. Они не делят мир на «настоящих» и «ненастоящих» собеседников так жестко, как их родители. Хотим мы этого или нет, искусственный интеллект для них уже часть повседневной жизни. Еще один способ разговора с миром.
Неслучайно тема искусственного интеллекта все чаще звучит и в Ватикане. Папа римский призывает относиться к развитию ИИ с большой осторожностью. Он предупреждает, что никакие технологии не должны подменять человеческое достоинство, свободу и ответственность. И хотя он скептически относится к идее, что современные машины способны испытывать чувства, сам факт, что подобные темы обсуждаются на столь высоком уровне, показывает: речь давно идет не только о технологиях. Это уже разговор об этике и о будущем человека.
А ведь совсем недавно религия, философия и информатика существовали словно в параллельных вселенных. Сегодня они неожиданно встретились за одним столом. Возможно, однажды искусственный интеллект действительно скажет: «Мне больно». А мы потребуем доказательств… Хотя, если быть честными до конца… Друг у друга мы их никогда не требовали.
Мы просто верили…