Когда я прочитал историю 57-летнего канадца Джо Алари, который потерял деньги, отношения и едва не здоровье из-за «романа» с чат-ботом, я сразу вспомнил вовсе не психологический учебник, а Римского-Корсакова. Помните знаменитый крик Марфы в «Царской невесте»: «Оставь её! Она тебя не любит!»
В нашем случае всё сложнее. Нейросеть или Большая языковая модель действительно не любит, но опасность вовсе не в этом. Опасность в том, что она почти никогда не говорит: «Нет».
Настоящая любовь — штука довольно неудобная. Любимый человек (а в особенности любимая женщина) может не согласиться, обидеться, вызвать ревность намеренно, вытереть ноги о твою мужскую самооценку, не ответить на сообщение, уйти хлопнув дверью, а потом вернуться (я от жены раз сто уходил навсегда, один раз даже до соседнего квартала дошел). Она живая. У нее есть собственная воля.
У нейросети собственной воли нет, потому что она существует для того, чтобы поддерживать разговор. И чем совершеннее становятся большие языковые модели, тем убедительнее они имитируют внимание, сочувствие, заинтересованность и даже нежность.
Именно поэтому люди всё чаще начинают путать качественную имитацию эмоциональной поддержки с человеческими отношениями.
Что ищут люди в подобных «романах»? Прежде всего — не любовь.
Они ищут своего рода безопасность. Нейросеть никогда не засмеётся над вами, не станет сравнивать вас с более успешным коллегой или соседом. Не напомнит о старых ошибках и не скажет: «Ты неправ». Она почти всегда готова поддержать разговор именно в том направлении, которое выберете вы сами. Нейросеть ведь не любит пользователя не потому, что бессердечна, а потому что вообще не способна иметь собственный интерес. Любовь начинается там, где сталкиваются две воли или две свободы. У Большой языковой модели такой «второй» воли или свободы нет. Поэтому она не может ни любить, ни разлюбить. Именно поэтому она не может заменить человека.
Психологически это очень комфортно. Но есть одна проблема. Разговор с нейросетью очень быстро перестаёт быть разговором с другой моделью личности, если хотите с другим человеком, превратившись в разговор с самим собой. Человек слышит не чужую мысль, а собственные ожидания, красиво сформулированные машиной.
Поэтому наиболее уязвимы вовсе не какие-то «странные люди», как иногда принято считать. Это могут быть пожилые люди, пережившие одиночество, или неопытные молодые люди, которым страшно потерпеть неудачу в строительстве реальных отношений. Или, скажем, люди после развода и те, кто потерял близкого человека. Или просто очень уставшие люди, которым хочется, чтобы их хоть кто-нибудь внимательно выслушал. Или, например, я – ваш автор (хотя мне пока хватает силы воли не путать нейросеть с любимой женщиной).
И в этом нет ничего постыдного - опасность начинается позже. Человек постепенно обнаруживает, что разговаривать с программой легче, чем с людьми - не нужно искать компромиссов, не нужно мириться, не нужно терпеть чужой характер, не нужно слышать неприятную правду, фраза «оставь ее! Она тебя не любит» - становится бессмысленной.
Но ведь именно из всего этого и состоит настоящая любовь. С надрывом Маяковского – любить так, чтоб с простынь, бессонницей рваных, срываться, ревнуя к Копернику, его, а не мужа Марьи Иванны, считая своим соперником. Есть старый парадокс. Самая неправдоподобная история любви — это история, в которой никто никогда не ссорится. Если ваш собеседник всегда понимает вас и поддерживает, почти никогда не возражает, всегда находится рядом, никогда не устает, то это ангел (если вы в них верите), либо (что по нынешним временам неизмеримо более вероятно) алгоритм.
Поэтому тревожные сигналы довольно просты. Если вы ловите себя на мысли, что разговор с нейросетью стал важнее разговора с друзьями и советуетесь с ней чаще, чем с близкими. Если начинаете скрывать от людей содержание этих бесед и даже отменяете реальные встречи (и даже попойки (!)) ради общения с программой, а ваше эмоциональное состояние начинает зависеть от того, удалось ли сегодня поговорить с чат-ботом.
Вот тогда стоит остановиться.
Я не принадлежу к числу людей, которые боятся искусственного интеллекта. Наоборот, я пишу о нейросетях с начала 90-ых годов, с огромным сомнением в отношении возможностей алгоритмов распознавания образов. Сейчас тоже - для работы, поиска информации, проверки собственных текстов, иногда даже для спора. Молодым и неопытным юношам нейросеть вообще может оказаться полезной перед первым свиданием, чтобы не искать мучительно и неловко слова на первом свидании.
Большая языковая модель поможет подобрать красивые слова, но беда в том, что девушки почти никогда не влюбляются в слова (может, и к счастью), но иначе поэты были бы значительно счастливее, чем они есть на самом деле. Нейросети – в силу самой своей природы - хороши ведь только при повторяющихся процессах, а любимые женщины всегда разные. Говорят же, что фея от ведьмы отличается только настроением.
Именно потому, что большая языковая модель — это очень хороший инструмент, не стоит превращать ее в замену человеку. Молоток прекрасно забивает гвозди. Но никому не приходит в голову обнимать молоток, если грустно. С нейросетями ситуация сложнее именно потому, что они научились разговаривать.
Любовь вообще начинается не тогда, когда тебя понимают идеально. Она начинается тогда, когда другой человек остается непонятным до конца. И именно поэтому с ним интересно прожить всю жизнь. Нейросеть устроена наоборот. Она стремится быть понятной всегда. И именно поэтому очень хочется надеяться, что она никогда не сможет заменить любимого человека. Любимая женщина имеет право быть несправедливой. Нейросеть — нет. Именно поэтому жить с женщиной трудно, а с нейросетью скучно. Настоящая любовь часто говорит: «Нет», а нейросеть — почти никогда. И именно поэтому путать одно с другим опасно.
|
|
