Охота на алгоритм: что такое теория мертвого интернета и почему в сети не осталось живых людей
Теория мертвого интернета появилась на имиджбордах в конце 2010-х. Это была очередная странная конспирологическая загадка из мира странных людей: первыми ее начали обсуждать пользователи раздела /x/ форума 4chan (там обычно обсуждают крипипасты (жуткие истории) и конспирологию) и форума субкультуры инцелов WizardChan (wizard – «волшебник», это почетное звание тридцатилетнего девственника). В 2021 году тезисы теории сформулировал пользователь IlluminatiPirate. Субъективные рассуждения, которые он описывал в своем посте на форуме Agora Road’s Macintosh Cafe, неожиданно нашли отклик у широкой аудитории. Оказалось, что активные пользователи сети давно заметили: виртуальное пространство словно сузилось, значительная часть контента вторична или выглядит сгенерированной нейросетью. Боты и фейковые аккаунты, действующие согласно алгоритму, наводнили социальные сети. Из года в год пользователи делятся одними и теми же историями, фотографиями и смотрят одни и те же видео, рекомендованные алгоритмом. Иными словами, интернет мертв, и мертв уже давно – как минимум с 2015–2016 годов.
В 2023-м уже не смешно, и можно сказать, что теория эта стала самоисполняющимся пророчеством.
Посетителей имиджбордов нельзя назвать пионерами сети, но они стали ее первыми по-настоящему массовыми пользователями. Некоторое время сеть разрасталась равномерно: предшественником всемирной сети было соединение «от точки к точке», объединявшее компьютеры через BBS и FidoNet через телефонную сеть. За каждым экраном компьютера сидел живой человек, как правило, под своим собственным именем или под постоянным псевдонимом. Затем появился доступный интернет, и люди начали создавать персональные сайты и блоги и общаться на форумах. В раннем интернете информация была ценна, а личность уникальна. Развитие сети должно было идти по экспоненте, расширяться, подобно вселенной, – и такая иллюзия была, но субъективно и объективно оказалось иначе.
«Интернет кажется пустым и лишенным людей. Контента там тоже нет. По сравнению с интернетом 2007-го (и ранее) интернет сейчас абсолютно стерилен. Некуда больше пойти, нечего делать, смотреть, читать и испытывать. Все схлопнулось до горстки сайтов для обывателей и тех пустых оболочек, в которых обитаем мы. Да, интернет кажется гигантским, но это воздушный шар, у которого внутри пустота».
То, о чем пишет IlluminatiPirate, не лишено смысла. Пользователи, которые развивали теорию мертвого интернета, обратили внимание на то, что часто не удается найти старые сообщения или сайты. В 2013 году это субъективное наблюдение нашло весомое подтверждение: 49% ссылок, процитированных в решениях Верховного суда США, оказались просроченными, а без них можно было подвергать сомнению и сами решения. Конечно, часть сайтов удалена владельцами или отправлена в архив, но это не объясняет, почему личные сайты все чаще словно оказываются в каком-то лимбе – Google просто их не видит. Крупнейший поисковик оказался огромной потемкинской деревней, обещающей миллионы результатов, но по факту демонстрирующий только несколько сотен крупных мейнстрим-сайтов.
IlluminatiPirate описывает и реальность своего виртуального убежища – имиджборда (разновидность форума, где можно было публиковать картинки). Особенность имиджборда – в анонимности, которая, однако, не мешает пользователям заводить знакомства и объединяться для борьбы с общим врагом. Но где гарантия того, что это не одна большая площадка для обучения ИИ? «В 2016-м – начале 2017 года 4chan наполнили посты кого-то или чего-то, в которых ощущалось присутствие детского любопытства и детского разума. Он задавал много вопросов, словно пытаясь понять эмоции постеров, с которыми общался, как будто эмоции эти ему были незнакомы».
Какова вероятность того, что пользователи не смогли бы отличить комментарии машины от комментариев человека? Слишком велика.
В 2020 году агрегатор Hacker News опубликовал статью «Чувствуете себя непродуктивным? Почему бы вам не думать меньше?». Она описывала личный опыт оптимизации рабочего времени и была похожа на текст начинающего копирайтера. Тем не менее она нашла отклик. В комментариях люди делились своим опытом, критиковали автора за графоманию и стыдили комментатора, оскорбившего автора блога. «Это писал GPT-3 или его человеческий аналог. Полезность контента стремится к нулю, это какая-то отрыжка». – «Ваш комментарий – это удар ниже пояса, – осаждали хама. – Если вы с чем-то не согласны, то ведите себя цивилизованно и аргументируйте, вместо того чтобы оскорблять».
В действительности хам оказался прав. Блог «Ничего, кроме слов» был экспериментом студента MIT Лиама Порра, изучавшего реакцию на тексты, написанные нейросетью GPT-3. То, с чем столкнулся он (и, возможно, пользователи 4chan), называется «эффектом Элизы», при котором люди интерпретируют сообщения искусственного собеседника, наделяя его человеческими чертами. Такой эксперимент был проведен впервые в 1966 году. Тогда программа «Элиза» имитировала психотерапевта. Люди, которые с ней общались, читали бессмыслицу и не видели в ней никакого подвоха. Десятилетия спустя язык виртуального общения упростился, а возможности ИИ увеличились.
«Почему это все похоже на то, что нас тренировали, выращивали, вели к той точке, где мы оказались?»
Анонимные имиджборды – прекрасная площадка для обкатки таких программ. «В интернете никто не знает, что ты собака», – гласит известный мем. На бордах никто не знает, что за маской Гая Фокса скрылся искусственный интеллект. Пользователи 4chan, обсуждающие теорию мертвого интернета, предполагают, что оказались на полигоне для обкатки алгоритмов управления децентрализованным сообществом. Они играючи вовлекались в политический активизм (анонимусы участвовали в войне против посягнувших на интернет-пространство сайентологов, участвовали в «пиццагейте» и «геймергейте», приводили к власти Трампа).
Кино, музыка и игры – все, что обсуждалось пользователями 4chan, превратилось в контент, удовлетворяющий любого среднего посетителя борды. «Вы заметили, какой стерильной стала фантастика? Забастовка сценаристов так и не закончилась. Современную фантастику производят алгоритмы и компьютерные программы». В 2023 году забастовка актеров проходит под требования обезопасить образы от использования искусственным интеллектом. Но отмененные из-за забастовки фильмы – «Биттлджус 2», «Гладиатор 2», «Дедпул 3», «Майнкрафт» и «Смертельная битва 2» – это сиквелы известных картин и экранизации популярных игровых франшиз, словом, то, у чего есть база для обучения искусственного сценариста.
Стоять за всем этим, как предполагает IlluminatiPirate, могло Управление перспективных исследовательских проектов Министерства обороны США (DARPA), занимающееся разработкой технологий для нужд американской оборонки. В начале нулевых DARPA запустило проект LifeLog (буквально – «дневник жизни»), антиутопическое приложение, которое должно было фиксировать все аспекты жизни человека, полностью лишая его приватности. Его отменили, якобы из-за жалоб активистов. Однако по странному стечению обстоятельств 4 февраля 2004 года, в тот же день, когда публично объявили о закрытии проекта, появилась Facebook, соцсеть, в которой пользователь добровольно делился информацией о себе. Сейчас соцсеть интегрирована в ряд других сервисов, и объем информации о пользователях колоссален. Люди в них сосуществуют с миллионами ботов, собирающих информацию для работы алгоритмов, манипулирующих и побуждающих покупать, участвовать в активности и соревноваться с другими пользователями.
В 2014-м произошло событие, которое назвали великой зачисткой Instagram, – тогда были удалены почти 19 миллионов пользователей. Заодно оказалось, что миллионы подписчиков звездных аккаунтов – это имитация живых людей. Они подписывались и ставили лайки, но на самом деле их никогда не было. Ким Кардашьян, Рианна и Селена Гомес недосчитались тогда по миллиону подписчиков, а Джастин Бибер потерял 3,5 миллиона виртуальных поклонников.
В июне 2023 года со скандалом закрылось приложение IRL, которое должно было заменить зумерам Facebook. Это был перспективный стартап, его стоимость оценивалась в 1,2 миллиарда долларов. Из 20-миллионной аудитории, как признались сами авторы приложения, 95% оказались ботами.
Наконец, нельзя не упомянуть историю с покупкой Twitter Илоном Маском. От 5 до 11% пользователей на поверку лишь имитировали поведение живых людей. При этом Twitter – крайне политизированная сеть, и боты были оружием идеологической борьбы во время предвыборных кампаний в США, а также активно использовались правительством Китая, чтобы заглушить новости о протестах против усиления мер по борьбе с COVID-19. Реальные же пользователи могли по идеологическим причинам оказаться в теневом бане, стать покойниками для мира, даже не зная об этом.
«Фабрики троллей», имитирующие активность в комментариях; дипфейк-технологии и полностью фальшивые личности; боты в YouTube, обеспечивающие успех только тем авторам, чьи взгляды удовлетворяют требованиям алгоритма, – такова реальность интернета, где все меньше места для живых людей.
Сотрудник Копенгагенского института исследований будущего Тимоти Шоуп предположил, что если контроль над GPT-3 будет утерян, то к 2025–2026 годам 99% интернета будет сгенерировано без участия человека.