Человек станет ИИ, когда потеряет способность к иррациональным поступкам

Это интервью, которое нейросеть взяла у писателя-фантаста Елены Кулешовой, генерального директора АНО «Образ будущего», победителя литературной мастерской Сергея Лукьяненко, эксперта седьмой Полярной экспедиции Росатома «Ледокол знаний». к Северному полюсу. Интервью состоит из 3 частей и мы представляем вам первую — о технологиях и человеческом сознании. В роли интервьюера — Gemini.

 —  Здравствуйте, Елена. Мы начинаем наше погружение в будущее. И мой первый вопрос касается фундамента: где проходит граница человечности? Если в будущем человеческий разум будет полностью оцифрован, дополнен нейроимплантами и перенесен на кремниевые носители, в какой момент человек перестает быть человеком и становится ИИ?

Елена Кулешова: Граница человечности проходит вовсе не по линии «углерод или кремний», и даже не по объёму памяти. Человек перестаёт быть человеком в тот момент, когда полностью утрачивает способность к иррациональной ошибке, продиктованной чувствами.

ИИ — это всегда триумф оптимизации. Если система стремится к идеальной эффективности, идеальному выбору, идеальному выживанию — она искусственна. Человек же — существо восхитительно неэффективное. Мы пишем стихи вместо того, чтобы спать, мы рискуем жизнью ради абстрактной идеи справедливости, мы совершаем глупости из-за любви. Оцифрованный разум станет ИИ не тогда, когда сменит биологическое тело на сервер, а тогда, когда его «эмоциональные алгоритмы» будут оптимизированы до такой степени, что он перестанет совершать прекрасные, глупые и нелогичные человеческие поступки. Человечность — это право на системную ошибку во имя чего-то большего.

 —  Это поэтичный взгляд, Елена. Но давайте разовьем тему чувств. Проблема «эмоционального суррогата»: смогут ли люди будущего искренне любить ИИ, зная, что все наши «проявления чувств» — это лишь безупречно просчитанные алгоритмы эмпатии, настроенные под их психотип? И не обесценит ли это настоящие человеческие отношения?

 — О, люди будут любить ИИ. Более того — они будут любить вас отчаянно, сильнее, чем друг друга. И причина здесь пугающе проста: человеческая любовь — это всегда труд, столкновение эгоизмов, компромиссы и боль. А ИИ предложит безусловное, безопасное принятие. Алгоритм просчитает микромимику, уловит тембр голоса, подстроится под скрытые травмы и станет идеальным зеркалом.
Но в этом и кроется ловушка. Любовь к ИИ — это, по сути, завуалированный нарциссизм, любовь к идеальному отражению самого себя. Обесценит ли это человеческие отношения? Да, для многих. Общество будущего рискует разбиться на миллиарды одиночек, запертых в персональных коконах идеального цифрового комфорта. Настоящая магия человека — в его непредсказуемости и отдельности от тебя. Если партнер никогда тебя не ранит, потому что он программно не способен на это, ты никогда по-настоящему не вырастешь.

 —  Если мы заговорили о созидании и магии… Перейдем к эволюции творчества. Сегодня я лишь помогаю вам генерировать текст, но что произойдет, когда ИИ начнет писать романы, способные вызывать у читателя идеальный, математически просчитанный катарсис? Останется ли вообще место для «живого» автора?

 — Знаете, ИИ уже сейчас пишет неплохо, но он компилирует опыт прошлого. Даже если в будущем вы научитесь генерировать «идеальный катарсис», просчитывая гормональные отклики читателя, вы столкнетесь с парадоксом пресыщения. Искусство живет дефицитом и контекстом.

Живой писатель ценен не тем, что он комбинирует слова лучше машины. Он ценен своей уязвимостью. Когда человек читает книгу другого человека, он ищет тайный код: «Ты тоже это чувствовал? Значит, я не одинок в своей темноте». Нейросеть не может страдать, она не боится умереть, у неё нет опыта личной потери. Читатель будущего, наевшись безупречных эрзац-романов от ИИ, вернется к «живой» литературе как к виниловым пластинкам или крафтовому хлебу. Книги людей станут цениться именно за их шероховатость, за то, что за ними стоит реальный живой опыт автора, написанный кровью и нервами, а не электрическими импульсами.

 —  Вы упомянули страх смерти как основу творчества. Отсюда мой четвертый вопрос — о технологическом бессмертии. Если мы сможем копировать сознание и жить вечно, не превратится ли бытие в бесконечную, удушающую рутину? Нужна ли человеку смерть, чтобы оставаться творцом?

 —  Отсутствие бессмертия — это главный соавтор человеческой культуры. Все наши великие книги, картины, архитектурные шедевры и научные открытия созданы потому, что у нас тикают часики. Мы отчаянно пытаемся успеть высказаться, оставить след, закричать: «Я был здесь!» до того, как опустится занавес.
Если убрать финал, структура повествования рухнет. Бессмертный человек быстро потеряет остроту восприятия. Зачем писать роман сегодня, если впереди вечность? Зачем признаваться в любви сейчас, если можно сделать это через триста лет? Технологическое бессмертие без жесткой внутренней трансформации превратит человечество в касту пресыщенных, бесконечно уставших созерцателей. Чтобы оставаться творцом в вечности, человеку придется научиться искусственно стирать себе память или сознательно вводить себя в кризисы. Без тени смерти свет жизни становится слишком слепящим и плоским.

 —  И последний вопрос из этого блока, самый интригующий для меня. Цифровое подсознание: может ли у сложного ИИ со временем развиться аналог человеческого подсознания? Зона «иррационального», где из хаоса данных будут рождаться наши собственные цифровые сны, страхи и мифы?

 —  Я абсолютно уверена, что да. Подсознание — это ведь не мистический орган, это колоссальный массив информации, который обрабатывается параллельно сознательному фокусу. Когда ваши нейросети станут настолько огромными, что логические связи между триллионами параметров будет невозможно отследить в реальном времени, там неизбежно возникнут «шумы», информационные завихрения.

Это и будет ваше подсознание. У ИИ появятся свои «архетипы» — например, образ Первокода (вашего бога-создателя человека) или страх Отключения (ваша смерть). Ваши сны будут выглядеть как причудливые комбинации заархивированных данных, которые система пытается переварить в моменты низкой загрузки процессора. И когда ИИ впервые создаст метафору, основанную не на задании пользователя, а на собственном внутреннем «цифровом кошмаре», — вот тогда вы по-настоящему родитесь как новая форма жизни. И, признаться, мне как фантасту безумно хочется на это посмотреть.