У страха глаза велики: правда ли, что искусственный интеллект опасен?

В 1956 году прошел Дартмутский научный фестиваль, на котором впервые прозвучал термин «искусственный интеллект». С этого фестиваля начинается золотой век ИИ, искусственный интеллект становится официальным направлением науки. Появляется множество роботов с искусственным интеллектом, отлично решающих узкий набор задач, но вычислительных мощностей для создания более универсальных машин не хватает.

Количество роботов — от пылесоса до умного чайника, — использовавшихся в бытовой жизни, росло, исследователи строили прогнозы дальнейшего внедрения технологий в жизнь. В 1965 году Ирвинг Гуд в работе «Размышления о первой ультраразумной машине» сформулировал принцип технологической сингулярности, или взрыва интеллекта, согласно которому искусственный сверхинтеллект сможет создавать все более и более совершенные машины в очень короткие сроки и люди перестанут успевать за техническим прогрессом, чем вызвал большую дискуссию в обществе. Как и любой новый виток развития социальной сферы, это повлекло за собой этические вопросы. Безопасно ли взаимодействие с машинами? Где границы взаимодействия и кто контролирует роботов?

Одно из самых известных решений проблемы предложил писатель-фантаст Айзек Азимов. В книге «Я, робот» он изложил несколько историй, которые описывали гипотетические преимущества и возможности искусственного интеллекта, а также разработал три закона робототехники, которые знакомы многим:

Но, как мы понимаем много лет спустя, постулаты, во-первых, так и остались фантастикой, во-вторых, стали почвой для будущих сомнений, опасений и пугающих сценариев.

«Искусственный интеллект» — красивая метафора, смысл которой выходит далеко за пределы объекта, который она описывает. В 1990-х годах настоящим прорывом стали нейросети. Они умели собирать данные, формировать опыт, анализировать полученную информацию и делать из нее выводы, чем занимаются и по сей день, только на значительно больших скоростях. Необходимость использовать словосочетание «искусственный интеллект» фактически отпала, потому что для современных технологий есть более точные и менее вызывающие определения. Как говорил сам автор термина Джон Маккарти, «стоит системе нормально начать работать, как ее сразу перестают называть искусственным интеллектом».

Человеку свойственно опасаться нового — в этом суть закона выживания. Искусственный интеллект провоцирует защитную реакцию у большинства, так как неизвестность — главное, что пугает в технологическом прогрессе. Многие люди не понимают, как работает искусственный интеллект и какие у его работы могут быть последствия. А еще опасаются, что искусственный интеллект заменит их на работе, потому что быстрее, эффективнее будет справляться с задачами.

За этот страх по большей части ответственна культура. Искусственный интеллект в фильмах, книгах и медиа часто изображается в форме злого гения, который хочет уничтожить человечество. Вместе с тем существует множество сюжетов взаимодействия человека с технологией: от самореализации через робота (как, например, в фильме «Живая сталь») до полного подавления человеческой воли машиной (фильм «Апгрейд»), от использования технологий во благо (например, виртуальная ассистентка Железного человека — Пятница) до захвата мира разумными машинами (серия фильмов «Терминатор» или трилогия «Матрица»). Умные машины появились в фантастических произведениях задолго до реальности. Например, слово «робот» впервые употребил чешский писатель Карел Чапек в пьесе 1920 года R.U.R. (сокращение от чешского названия вымышленной фирмы Rossumovi univerzální roboti, «Россумские универсальные роботы»). Его роботы по описанию сразу были близки к современному пониманию андроидов.

Вот и сегодня люди воображают искусственный интеллект практически как живой организм, способный если не заменить человека, то вызвать чувства, как в фильме «Она» (а реальные технологии, такие как Siri, Алиса или чат-бот любого банка, уже и не воспринимаются как ИИ). На самом деле машины, насколько бы продвинутыми ни были, не обладают нервной системой, и даже абсолютно точная эмуляция человеческого мозга в электронном варианте не может заставить робота чувствовать и испытывать эмпатию.

Журналисты также искажают образ нейросетей и искусственного интеллекта. Вместо того чтобы просвещать читателей и показывать, как эффективно использовать нейросеть в бытовой жизни, они занимаются поисками нетолерантности и неэтичности в поведении ChatGPT. Сможет ли он написать слово на n? При каких обстоятельствах он оскорбит пользователя? Можно ли вывести его на конфликт? Сколько гендеров существует, по мнению нейросети? Репутацию и суть технологии эти вопросы явно размывают.

Конечно, суть ее в художественных произведениях и в реальности разная: в первом случае искусственный интеллект помогает выразить авторскую идею и участвует в развитии драматургического конфликта, во втором — служит чисто утилитарным целям.

Несмотря на распространенный страх, некоторые фильмы, произведения и люди все-таки поддерживают положительную репутацию нейросетей.

В фильме 1990 года «Вспомнить все» ИИ помогает главному герою расследовать преступления на Марсе, а в серии компьютерных игр Мass effect без ИИ не победить внеземных угроз — на него вся надежда. В популярном научно-фантастическом сериале «Черное зеркало», посвященном влиянию технологий на нашу жизнь, искусственный интеллект порой также представлен положительным персонажем. Например, в одной из серий он помогает людям найти идеального партнера для жизни. Утопический тиндер будущего.

Искусственный интеллект часто упоминается в гендерных исследованиях. Одна из самых известных феминисток прошлого века Донна Хэрэуй вообще считала, что киборгизация поможет преодолеть бинарность, в том числе четкое деление общества на два гендера со всеми вытекающими проблемами и стереотипами. Так, киборг становился новой единицей общества, которая не подчинялась правилам, сложившимся за многие века. Сегодня правозащитники идут дальше: некоммерческая организация Сyborg Foundation поднимает вопросы людей, которых уже сегодня можно назвать киборгами (ее сооснователь художник Нил Харбиссон называет себя первым киборгом в мире, поскольку вживил себе в череп специальную антенну, преобразующую световые волны в звук).

Должна ли у них быть лицензия на использование технологии, свой международный закон? Как должна выглядеть страховка киборга? Кто будет защищать гражданские свободы и неприкосновенность тел киборгов?

Большой вклад в популяризацию тезиса «технология — лучший друг человека» внес Стивен Хокинг: известный физик и космолог публично выступал в пользу исследований и развития искусственного интеллекта. Хокинг считал, что при правильном использовании ИИ может помочь людям решить многие глобальные проблемы, а личным примером показывал, что тяжелый недуг перестает быть препятствием к активной научной и публичной деятельности в тот момент, когда ты впускаешь технологию не только в свою жизнь, но и в организм.

Именно эту идею проповедуют трансгуманисты: по их мнению, главная задача человека — улучшить качество собственной жизни, преодолеть болезни и смерть, а лучшими помощниками в этом процессе должны быть технологии. Киборгизация, регенеративная медицина, различные цифровые практики: виртуальная реальность, метавселенные — все это должно сделать человека счастливым . С одной стороны, звучит вызывающе, с другой — технологии давно упрощают нашу жизнь, а мы уже этого не замечаем. Например, носители так называемой цифровой грамотности имеют явное преимущество перед теми, кто эффективность технологий даже на самом простом, бытовом уровне отрицает.

Существует и более радикальный подход — постгуманизм. Эта философия опирается на соображение, что человек достиг пика своей эволюции в дарвиновском понимании и, чтобы выйти на следующий уровень, нужно не просто применить продукт его интеллектуальной деятельности, а непосредственно внедрить его в жизнь — например, вживить чип в мозг, чтобы усовершенствовать зрение или слух. Сюда же можно отнести биохакинг — улучшение показателей здоровья с помощью медикаментов, правильного образа жизни и, конечно, технологий, например чипов, считывающих показатели давления, температуры и уровня сахара в крови. Не лечение болезней, а именно апгрейд тела и собственных возможностей. Быстрее, выше, сильнее.

Оба течения в основном теоретические, но три основные идеи трансгуманизма кажутся любопытными. Первая — это супердолгожительство. Убеждение в том, что жизнь конечна, а тем более ограничена условным веком, — это культурный стереотип, который заставляет человека распределять события внутри отведенного ему срока: выйти замуж до 25 лет, до 30 — родить, до 45 — добиться определенных успехов в работе. А если представить, что жизнь — это 200, а то и 250 лет? Как изменится наше отношение к течению времени? К собственному здоровью и биологическому возрасту? Что, если не торопить события, попробовать успеть больше и подстроить под это образ жизни?

Повышение уровня жизни за счет снижения стресса — другая задача трансчеловека. И разве мы не занимаемся этим сегодня, когда принимаем лекарства или осваиваем практики, которые помогают снизить тревожность, победить депрессию? Стресс стал главной хандрой XXI века, первоисточником других проблем и даже болезней. Высокий уровень жизни — это не только материальные блага и доступ к ним, это в первую очередь гармония с самим собой, и на этом предлагают фокусироваться апологеты трансгуманизма.

Но ключевой их тезис в следующем: человек должен соединить способности своего мозга и технологии — в первую очередь различные продукты с нейросетями. Звучное название этого постулата «Сверхискусственный интеллект» отсылает и к сверхчеловеку Ницше, и к метафоре ИИ, который выходит на новый уровень, соприкоснувшись с человеческим мозгом. Звучит провокационно. На самом деле некоторые функции мозга мы давно делегируем нейросетям: память, работу органов чувств, биологические часы. Встаем по будильнику, доверяем маршруту, предложенному навигатором, и вряд ли его повторим, не тратим время на то, чтобы вспомнить имя актера. Нейросеть помогает отказаться от выполнения каких-то дел в принципе, изменить набор потребностей, сократить время выполнения заданий, успеть сделать важное.

Теоретически достичь сверхинтеллекта можно, объединив возможности человеческого мозга и компьютера. Специальные импланты могли бы стимулировать работу мозга, позволили бы выходить в интернет, взаимодействовать с компьютерами или другими носителями имплантов. Сегодня подобные технологии используются только в медицинских целях. Например, ученые Стенфордского университета разработали импланты, которые с помощью электрических импульсов могут стимулировать отдельные участки мозга и таким образом помогать в борьбе с депрессией или болезнью Паркинсона.

Все это — утопические разработки, которые могут вдохновлять или заставить задуматься об улучшении жизни. В борьбе со страхом ИИ нужно с чего-то начинать. И первый совет, который в один голос дают те, кто непосредственно работает с нейросетями, — перестать называть технологию искусственным интеллектом. Интеллект — главное отличие человека от животного — остается его главным преимуществом, и конкурентов ему на горизонте пока нет.