Будущее вопросительно: заменит ли нас искусственный интеллект

Я вел список вначале, когда сбывался в основном первый роман. Однако прогнозы из «Паутины» показались через какое-то время слишком простыми, потому что были линейными. Во втором романе я попытался это переделать, показать, как некоторые события подрывают все линейное прогнозирование. Но сначала, конечно, было весело. Суд над библиотекой Мошкова идет, а у тебя это было в «Паутине». Музыка из цифрового трафика – недавно мой знакомый целый такой альбом записал, а это тоже было в «Паутине». Ну и так далее. Но потом стало понятно, что не в этом кайф – линейные прогнозы делать. Сейчас стало интереснее подрывать чужие прогнозы, скучные и навязанные.

Это как раз такой прогноз, который меня удивил своей несбычей. Настоящего моделирования личности у всех этих систем так и не получилось. Уже 25 лет нам рассказывают, что если собрать все персональные данные на человека, то можно предсказать его покупки. Я и сам эту идею обыгрывал в своем киберпанке 1990-х годов. Но по факту вот сейчас я открываю браузер, и мне предлагают то ли женские спортивные лифчики, то ли курсы писательского мастерства, то ли мазь от геморроя – короче, вещи, которые мне абсолютно неинтересны. При этом у меня есть блог, где довольно подробно описаны мои интересы и увлечения. Казалось бы, бери да предсказывай. Но нет, она не умеет. Зато эта система, вместо того чтобы под нас подстраиваться, навязывает нам свои модели, даже не сильно интересуясь нашими вкусами. Как ни странно, многие люди это принимают. Самый очевидный пример: у всех в карманах сейчас лежит смартфон. За очень короткий срок, если в исторической перспективе смотреть, всем продали эту штуку, не спрашивая особенно, хотим мы ее или нет. Киберпанк предполагал, что ИИ сможет мыслить, прогнозировать, – этого не произошло. Здесь скорее есть другая опасность – ситуация, в которой не интеллект становится сильным, а человек становится слабым. Если всю цивилизацию действительно покрыть одной сетью, которая будет собирать данные и всем одно и то же впаривать, всех контролировать, то это действительно будет выглядеть как сильный ИИ. Сильный он будет в том смысле, что все ему подчинятся.

У меня в целом ощущение как при изобретении фотошопа. Тогда все бегали, кричали, что это революция, новая профессия. Сейчас фотошопом все пользуются, но он не заменил людям способность нормально фотографировать. Ну да, ChatGPT умеет давать шаблонные ответы, как и, например, журналисты, которые точно так же обучались работать на шаблонах. Разницы-то никакой – шаблонная безграмотная новость без источников такой и останется, просто теперь ее напишет машина. Улучшения нет. Будет, наверное, и ухудшение, но связанное с интерфейсом поиска. Потому что классический поисковик все-таки давал тебе альтернативы, набор ссылок, по которым ты мог пройти и обнаружить что-то, чего поисковик, может быть, даже и не увидел. Вместо этого отвечать будет ChatGPT в режиме «Рабинович напел». Вот эта попытка притупить общение человека с сетью меня только расстраивает.

Давайте я не буду стесняться и скажу, что я был бы рад, если бы многие из них ее потеряли. Пишешь прекрасный текст, а потом армия придурков его копирует и портит. Мне кажется, было бы не так стыдно за человечество, если бы мы знали, что это делает робот. На самом деле я не думаю, что много людей пострадает. Автономность ИИ – это тоже маркетинговый миф, который сильно раздут. В лабораторных условиях всегда можно изобразить красивый кейс, что ученые регулярно и делают, чтобы гранты получать. На практике, например, была новость, что ChatGPT научился писать коды вирусных программ. Но если ты делаешь из этого какую-то индустрию, то код написать – это меньше 10% всех усилий. Потом его надо куда-то вставить, как-то использовать. Если эта штука крадет деньги, то нужны дропы, которые вынимают эти деньги из банкоматов. А что машинка написала десять строк кода – ну так и сейчас люди, пишущие вирусный код, просто его копируют в других местах. Заменить много людей ChatGPT не сможет, а если заменит, то в тех областях, где они и так были не очень нужны. Там, где важна точность и критичны ошибки, ИИ еще долго не будут подпускать к серьезным решениям. Мне кажется, нам сейчас пытаются продать пример развлекательного искусственного интеллекта как нечто, что будет работать в других сферах. Это такая очень маркетинговая подмена.

В нашей эволюционной биологии есть уязвимость. Мозг любит оптимизировать обработку информации – например, распознавать объекты по минимальному набору признаков. Это ускоряет наши реакции, и нашим предкам это наверняка не раз спасало жизнь. Но, с другой стороны, эта же оптимизация позволяет нас легко дурить. Как птицы бурно реагируют на палку с двумя точками, воспринимая их как глаза, так и человек легко ведется на упрощенные элементы «живого». Были исследования, которые показали, что пользователи роботов-пылесосов начинают относиться к ним как домашними животным – дают пылесосам имена, разговаривают с ними, переживают за них. Что касается чат-ботов, это было показано еще на примере программы «Элиза» в 1960-х. Там люди часами болтали с программой, которая тупо превращает ваши фразы в вопросы. Очевидно, эта болезнь станет массовой, когда чат-боты научатся активно использовать в диалогах персональную информацию. Даже если просто называть человека по имени, какие-то прошлые его реплики к месту вспоминать, расположить его к себе довольно просто. А это очень простой машинный алгоритм.

Иван Ефремов еще в 1970-х писал, что главная опасность будущего – техническая монокультура. Монокультура навязывает определенный способ или формат жизни, который становится настолько универсальным, что делает систему уязвимой именно из-за ее однообразия. Если у всех айфоны, условно говоря, все айфоны может поразить один вирус. У нас процессорные чипы контролируют две компании во всем мире. Две операционные системы покрывают большинство пользователей. Сколько у нас мессенджеров? Тоже два или три, и ты не знаешь, где сидит сумасшедший, который может нажать на кнопку, чтобы это все выключилось. Но это, наверное, не худший вариант последствий. Худший – когда огромные массы людей выращивают внутри монокультуры. И эти люди привыкают к однообразным и странным формам существования. Вместо того чтобы общаться, они идут в Facebook (признан экстремистской организацией. – «Правила жизни»), который никакого отношения на самом деле не имеет к настоящей социальной сети, это централизованный сервер для раздачи комбикорма.

Возможно, это будут уже другие люди, у которых реально по-другому устроены отношения с окружающим миром. Люди, которые реальный мир не трогали руками. Они будут воспринимать его через определенный набор мемов, ориентироваться на набор представлений, который им раздает огромная централизованная система машинного доения. Они будут рассчитаны на симбиоз с определенной технической системой и при ее отключении не смогут функционировать. Условно говоря, ты привык к навигатору. Потом навигатор отказал, и все – ты не понимаешь, как добраться до нужной точки. И у них будет поврежденная картина мира. Мы уже сейчас видим, как какие-то новые информационные культы то и дело возникают. «Культура отмены» – считается, что если они какого-то человека отменили, как будто закрыли окно на экране, то этот человек пропал, пропало явление, которое с ним связано. Нет представления, что надо спорить, разбираться, бороться. Когда таких людей вокруг станет много, могут начать происходить очень странные вещи.

Школа сейчас не учит детей ни кибербезопасности, ни отношениям с этими устройствами. Это такое слепое пятно в культуре. Школа продолжает тебе рассказывать про корешки и цветочки, про дважды два, но при этом у всех в карманах лежат смартфоны. Это часть жизни, а школа этого не видит. Учителя не могут даже запретить смартфоны на уроках, хотя, казалось бы, что тут трудного? Забрал, или заглушил, или просто штрафы ввел большие. Но школа как система очень слаба по сравнению с IT-индустрией, которая все это продает и лоббирует. Тут даже не уроки гражданской обороны, потому что они пригодятся в исключительных случаях, а хуже – смартфоны-то у детей с этими бесконечными лентами включены постоянно, туда постоянно что-то прилетает, все время долбит мозг каким-то странными штуками, и никто не озабочен тем, как про эту вещь школьникам рассказать. Просто их родителям это впарили, родители впарили детям – и все, рынок счастлив. А что там происходит? Ну как будто неинтересно вообще.

Я учился на математическом факультете, на матобеспечении ЭВМ, и у меня всегда был, конечно, определенный интерес к компьютерам. В 1980-х было интересно заниматься творческим программированием – когда ты идеально пишешь программу, а она делает что-то крутое. В ходу были такие книжки – «Этюды для программиста». Это было искусство, магия. Казалось, что эти люди могут сделать много всякого интересного. Потом программисты стали просто обслуживающим персоналом корпораций, вроде водопроводчиков. Ничего творческого большая часть программистов не делает, реально они – придатки даже не систем, а отдельных языков программирования, настолько, что непонятно, кто кого использует, программист язык или язык – программиста. Интернет в свое время тоже вызвал всплеск интереса – как он создается, как объединяет людей. Это была красивая революция, было интересно делать первые сайты. А потом все это стало вырождаться в однообразные аппараты машинного доения. Что особенно странно наблюдать, когда ты видел настоящий интернет. Любой человек сам делал сайт, все сайты были разные. Теперь удивительно вспоминать.

В какой-то момент меня стал все больше интересовать вопрос, почему люди-то такие однообразные. Вроде бы миллионы программистов, а все сидят в одном Facebook (признан экстремистской организацией. – «Правила жизни»). Мне интересно, как это на индивидуальном уровне происходит, как ты можешь быть человеком, который способен такую систему написать, но не пишешь ее и вместо этого сидишь и скроллишь ленту, потребляешь эту тупизну, как корова. Так что скорее мои интересы сместились от техники к человеку. То, что человек может создавать всякие крутые инструменты для себя, это, в общем, понятно. То, что каждый из инструментов расширяет сферу твоего познания, – тоже. Телескоп – это усилитель твоего глаза. Соответственно, любой инструмент – это усилитель человеческих чувств, с одной стороны. А с другой – оказывается, что инструменты в какой-то момент начинают человека подчинять, и возникают симбиозы, в которых человек играет очень странную роль, и вместо расширения твоего сознания, наоборот, происходит сужение.

Прогресс определяется не только формальным наличием технологий, но и конкуренцией человеческих сообществ, систем общественного устройства. Эволюционная борьба заставляет развивать технологию, а не просто лежать с ней на диване. Именно поэтому все крупные технические изобретения, которые мы знаем, – это XIX век и XX век, очень воинственное время. Даже сказки про искусственный интеллект по большей части написаны в XX веке. Deep learning, нейросети – это все из XX века. А последние тридцать лет мы жили в мире «единого рынка», где была только конкуренция рыночных машин за аудиторию. И потому сейчас мы ничего прорывного не видим. Монокультура самодостаточна. Она уже продала тебе твои айфоны. Максимум, что она сделает, – это чуть-чуть будет менять модели, чтобы впечатлять людей, но прорывного туда ничего не добавит. Бесконкурентность – болото для прогресса. В этом смысле, может быть, новый раскол мира, который сейчас происходит, приведет к какому-то движению.

Это фантазия чокнутого Рэя Курцвейла. И хороший пример того, как IT-индустрия умеет рассказывать сказки. Они берут чужие термины и превращают эти термины в свои маркетинговые инструменты. «Социальные сети» не имеют отношения к социальным сетям, «нейросети» на самом деле ни хрена не нейросети, они значительно примитивнее, там ничего от нейронов нет. Точно так же возникла эта история про сингулярность. Взяли из математики слово и вокруг него построили просто секту. Ну и, собственно, сильный ИИ из той же оперы, это религиозная штука. «Вкалывают роботы, счастлив человек». У человека очень сложный разум. Его главная сложность – обработка разных видов информации, разных сенсорных систем и приведение их к общему знаменателю. Зрение, слух, куча всего. К этой теме до сих пор не подбирались ни с какой стороны. Как правило, то, что называется сейчас искусственным интеллектом, решает одну задачу с одним четким форматом данных, и на этом все заканчивается. Сколько нам в фантастике обещали двуногих роботов? А ведь ходить умеют все, включая насекомых. Это интеллектуальная задача? Конечно. Стоять на двух ногах сложнее, чем писать дипломы. То, что Boston Dynamics показывает, – ну так это за миллиард долларов сделали робота для ролика. Никто этого робота не выпустит на нашу улицу, он сразу упадет, и миллиард долларов отправится в помойку. Зачем тогда говорить про какой-то сильный ИИ?

Нужно различать разные динамические системы, которые в разные периоды имеют разную предсказуемость. Вот это само по себе, мне кажется, один из важнейших вопросов футурологии. Бывают такие случаи, когда система развивается равномерно, и тогда работают линейные прогнозы. А бывают периоды, когда система становится хрупкой – тогда можно ожидать «черных лебедей», то есть больших лавинообразных перестроек с неизвестным результатом. «Черного лебедя поймать нельзя, но можно знать, где он обитает». То есть мы можем выделить системы более хаотичные по сравнению с другими. Ну и, наконец, если совсем сверху на эту историю взглянуть, есть циклические процессы, которые здорово описывал, например, наш русский экономист Николай Кондратьев. Условно говоря, когда появляется определенная технология, она дает людям преимущества. Те, у кого она есть, вырываются вперед. Потом ее начинают копировать конкуренты. В результате возникает экономический бум, потом насыщение, дальше экономический спад. Вот такие три варианта. В целом из этого можно построить теорию.

Везде подходы разные, единой науки о будущем нет. Вот в СССР был Госплан. Это была система, которая предполагала, что если ты собираешь со всей страны информацию, то дальше ты можешь ее обсчитать и получить, в принципе, сценарий развития. Сначала просто планировали, потом стали что-то подкручивать и делать, например, четыре варианта сценариев. Можно было поменять какой-нибудь параметр: «А давайте посмотрим, что получится, если мы не будем у Кубы сахар закупать». Это такая идеалистическая модель, когда есть полный контроль и нет «черных лебедей». Возможно, линейные модели прогнозов она строила неплохо. Но потом Союз развалился, и на сегодняшний день эту прогностическую машину Гос­плана уже почти забыли. На Западе параллельно развивалась своя футурология, которая выглядела примерно так: мы не можем построить математическую модель хаотического рынка, но давайте хотя бы соберем мнения экспертов об этой системе и каким-нибудь наукоподобным способом продадим их как прогноз. Этим, собственно, занимались ребята из RAND Corporation, Герман Кан с его методами (сценарный анализ, дельфийский метод). Насколько это все работало на практике – большой вопрос. Вот был случай: у шаттла «Коламбия» при взлете кусок обшивки отвалился, ударил по крылу. В NASA опрашивают экспертов: может ли «Коламбия» безопасно вернуться на Землю? Все говорят: «Да, может!», а один эксперт говорит: «Нет!». Ну, они послушали большинство – и шаттл сгорел при посадке. А сейчас, к сожалению, футурология в основном рекламная. Когда читаешь прогнозы, то обычно это не прогнозы, а просто директор по промыванию мозгов из компании Google рассказывает о своем коммерческом будущем, в котором мы их сервисы покупаем.

IT-индустрия не любит рассказывать о своих провалах. Я привожу на лекциях такой пример. Все знают, что программа AlphaGo выиграла у чемпиона по игре в го. Это такой пиар-ход: развлекательный интеллект, который ни на кого не повлиял. Или у Google был проект Google Flu Trends, который пытался вычислять эпидемии гриппа на основе анализа поисковых запросов. Этот проект в свое время мощно пиарили. Я недавно наткнулся на книгу «Краткая история будущего» Юваля Ноя Харари, который пытался изобразить из себя футуролога. Он написал в этой книге, что сервис Google Flu Trends предсказывает эпидемии даже раньше, чем медики. Я посмотрел на год издания и понял, что книга вышла через два года после того, как сервис GFT закрыли. То есть Харари и его почитатели до сих пор не знают, что его закрыли и почему. А потому, что сервис облажался: предсказал американцам эпидемию гриппа, а ее не было. Но никто в публичном поле не рассказывает об этом провале. Когда у нас началась эпидемия ковида, где были все эти прекрасные сервисы, вся эта big data? И китайцы точно так же облажались со своим приложением, которое мониторило всех людей и все прививки. Они просто в один день все выключили и сказали: «Ребят, все, не работает, у нас уже миллионы зараженных, и нам не помогает красивый апп на смартфоне». Потому что надо врачей слушать, а не айтишников.

Бежать в деревню! В деревню, в глушь, в Саратов. В этом смысле Россия – страна больших возможностей, потому что у нас реально есть куда бежать. Это необязательно будет глушь. Я на прошлой неделе общался с людьми, которые живут в деревне, но при этом у них есть и машины, и те же смартфоны, но их образ жизни и их отношение к жизни другое, не такое, как в полностью цифровой городской жизни. Как-то они более автономны, более приближены к земле, самостоятельны. В России для такого движения есть много возможностей. Есть же страны, в которых никуда не уедешь, ты весь окружен, как, например, в Японии, мегаполисами. Я считаю, что лучшая борьба с монокультурой – это мультикультура. Чем больше у нас разных вариантов, тем лучше. Даже при нынешних технологиях можно построить разные виды обществ. Может быть, нам сначала стоит освоить эти возможности, то есть заняться новыми гуманитарными технологиями, которые позволяют более разнообразно применять уже имеющийся хай-тек.

Любая прорывная технология отбрасывает долгую тень на будущее. Когда у вас появляется электричество, вы можете спрогнозировать, как это делали фантасты XIX века, разные устройства на основе электричества. Не все сбудется, но многое видно сразу. Так же я писал свои романы. В конце 1990-х было видно, что прои­зойдет с интернетом. Все эти чат-боты были описаны 25 лет назад. Чтобы что-то новое появилось, должна появиться прорывная технология какого-то базового уровня. Может, биотехнология какая-то. Насчет квантовых вычислений я сомневаюсь, потому что это пока выглядит как «белая обезьяна». Это такой шуточный термин, который я придумал для курса футурологии, в пику «черному лебедю». Ведь «черный лебедь» – это когда происходит что-то, чего никто не мог предсказать, и все потом об этом говорят. А «белая обезьяна» – это когда все об этом говорят, но ничего так и не происходит.