«Вы бы поставили чип себе в голову?»: круглый стол «Правил жизни» об искусственном интеллекте
Трифон Бебутов: Сейчас силен страх перед ИИ, причем как у обычных людей, так и у специалистов. Вопрос к Михаилу: насколько часто люди сейчас приходят с таким запросом?
Михаил Соболев: Тут можно сказать, что на любой подобный феномен всегда бывает две реакции. Либо «ого-го, сейчас заживем, а вся эта фигня будет за нас работать!», либо «ну все, это уничтожит нашу жизнь». То есть либо полное принятие, либо страх. Поэтому приятно видеть, как люди все-таки пытаются новой технологией пользоваться и ищут какие-то разумные способы ее внедрить в свою работу. Со всех сторон говорят, что ИИ — это что-то ужасное, что его нужно ограничить, запретить, что он уничтожит последние остатки «старых добрых» времен. Но на самом деле это просто еще один новый инструмент, который только-только появился и про который еще толком непонятно, как его использовать. Вот в Евросоюзе хотят сейчас ввести ИИ в какие-то правовые рамки. С одной стороны, это разумно, как и с любым другим мощным инструментом: когда бензопилу покупаешь, к ней тоже приложена книжечка с правилами эксплуатации. Но в первую очередь надо понять, что это за феномен, какие у него границы возможностей и как с ним жить. Потому что жить с ним все равно придется, хотим мы этого или не хотим.
Сергей Евдокимов: Это как ядерная энергия в свое время — с одной стороны, вещь перспективная, а с другой – вызывает много страхов. Мы не случайно про все это рассуждаем под выход «Оппенгеймера». Та же история – вроде полезная штука, а вроде может снести все человечество к чертовой матери. Я чуть-чуть остановлюсь на использовании ИИ на телевидении. Как все уже знают, нейросети способны синтезировать человеческую речь. Года два уже существуют синтезаторы речи, которые позволяют озвучивать, например, художественные фильмы. На практике это значит, что отмирает профессия актера озвучания. Мы тоже пробовали технологию, но все-таки решили остановиться на человеческом голосе, потому что, ну прямо скажем, на актеров озвучки уходят не какие-то бешеные деньги, а люди должны держаться вместе — по крайней мере пока позволяют обстоятельства. Второй эксперимент — мы попробовали заставить ChatGPT писать рекламные тексты. Выяснилось, что с этой задачей он справляется на уровне среднестатистического копирайтера, что говорит о том, что среднестатистический копирайтер – это теперь тоже профессия вымирающая. Плохо и средне теперь умеет писать даже машина. Хорошо – пока нет. Какого-то особенного креатива или стилистического изящества нейросеть не продемонстрировала. Мы пошли дальше. Мы взяли некоторых людей, которые не поют, у которых нет голоса – например, одну из наших ведущих. Она у нас запела. Мы сейчас разрабатываем телевизионный формат, который на этом построен, — условно говоря, музыкальный ринг XXI века. Там человечество в лице представителей русского шоу-бизнеса будет соревноваться с ИИ — петь, сочинять музыку. Наверное, каждый день вы сталкиваетесь с какими-то видео или треками: Фрэнк Синатра спел Gangsta's Paradise, Егор Летов перепел певицу МакSим и так далее. Это открывает, конечно, большие перспективы. И поднимает много вопросов. Начиная с главного: а что такое, собственно, человек? Его голос ему принадлежит или нет? А внешность? Вот гуляет по сети трек, где Виктор Цой поет песню из фильма «Приключения Электроника», которую при жизни никогда не пел. Тут как с точки зрения авторских прав? Могут ли наследники Цоя претендовать на роялти? А если песню сочинит ChatGPT, роялти кому должны идти? Сейчас многие популярные актеры, блогеры создают банки своих оцифрованных изображений. Кто обладает авторскими правами на них? Тут, конечно, поднимается целый комплекс вопросов, на которые нет никаких ответов. И которые в будущем придется как-то урегулировать.
Михаил: Вот это хороший вопрос. Что из себя представляет человек? Что такое сознание? Со времен Фрейда, когда говорят о сознании, имеют в виду расщепление на собственно рациональное сознание и на субъект бессознательного — того, кто ошибается, шутит, выдает какие-то неожиданные фразы, может быть, даже неожиданные для самого себя. Того, кто говорит и сам не всегда знает, чем закончит фразу. Искусственный интеллект — это, конечно, мастер интерпретаций, мастер коллажей, смешивания чего угодно. Но чего-то нового, прорыва какого-то он не создаст. Не придумает новой метафоры, например.
Сергей: Да. Но у нас в последнее время культура в таком состоянии, что нового как бы и так нет. Все ходят и говорят: где новое, когда настанет новое, когда уже начнется будущее?
Трифон: Вот это хороший момент – нейросеть как инструмент, который сам по себе ничего нового создать не может. Кирилл, скажи как человек, который занимается интеграцией ИИ в очень разные среды: это действительно просто техническое средство, как, например, ручка шариковая, которая в свое время заменила перо? Или он способен на нечто большее?
Кирилл Чирясов: Отличный вопрос. Я, в частности, советник по цифровым технологиям Европейской медиагруппы, это компания, которая управляет разными радиостанциями – «Европа Плюс», «Дорожное радио», «Ретро FM» и так далее. Мы дали нашим музыкальным редакторам послушать произведения нейроартистов, причем не каких-то мировых звезд, а просто то, что сами собрали со звукачами, с ребятами, просто протестировали. Ни один музыкальный редактор не смог сказать, что это нейроартист. «О, это классно, фрэш!» Это были произведения на русском, на английском языке. Никто не может отличить нейроартиста от артиста настоящего. Так что я поспорил бы с Михаилом насчет того, что нейросетка не может ничего создать. Одна – может быть, и нет. А какой-то сложный микс из разных специализированных нейросетей, где одна из настроек будет отвечать за новое и неизведанное, накидывать какие-то варианты – такая система, возможно, и создаст.
Сергей: Я тут вижу проблему знаете в чем? Проблема не в том, что ИИ будет мыслить, как человек. Проблема в том, что человек уже мыслит, как ИИ. Сейчас, если глушат навигаторы, у таксистов начинается паника, они не знают, куда ехать. Ротация на радио, плейлисты в музыкальных сервисах формируются вроде бы и под нас, а вроде бы и, наоборот, формируют наш вкус, и в какой-то момент разница просто пропадает. Все стало слишком стандартизировано, все подогнано под формат. Получается, что человек все-таки теряет свою субъектность, хотим мы этого или нет.
Трифон: Я тоже всегда привожу в пример такси. Вроде бы формально лоботомию сделали спутникам, а на деле оказалось, что в каком-то смысле не спутникам, а людям.
Кирилл: На самом деле область применения искусственного интеллекта уже огромная. Зимой, когда OpenAI только открыли доступ к ChatGPT, я показывал эту штуку всем компаниям, с которыми сотрудничаю, и все уже на этапе презентации более-менее понимали, как будут это использовать. Сейчас мы активно внедряем ИИ в производстве креативного контента – SMM, тексты, картинки. Европейской медиагруппе мы под каждый бренд сделали нейросетку, которая понимает стилистику, tone of voice каждой радиостанции, понимает, о каких людях идет речь. В HR мы тоже это внедряем, в анализе анкет соискателей. В юридическом отделе. На западном рынке одно из самых перспективных направлений – это финансовый анализ. Нейросеть лучше человека видит в больших данных паттерны и может предсказывать финансовое поведение пользователя. Например, видно, что человек скоро перестанет быть клиентом или перейдет на другой тариф. ИИ таких выделяет, и дальше с ними уже работает человек. Но самое интересное было, когда мы начали юристам показывать, как с помощью ИИ писать, например, жалобы по стандартной форме. Время написания письма это сокращает кратно. Для HR-отдела мы купили MBTI-модули, которые разработаны в Америке: человек проходит тест, нейросеть смотрит результаты, смотрит анкетные данные, дает рекомендацию, брать или не брать. Мы все это называем сopilot, «второй пилот». Терминология из мира IT, но мы уже почти для всех наших департаментов построили таких вторых пилотов. Это и юристы, и бухгалтерия, и спецпроекты. Есть очень забавные кейсы – когда, например, менеджер по продажам, совсем новичок, при помощи ChatGPT предлагает спецпроекты компаниям уровня МТС, причем накидывает их прямо на встрече. Это занимает три минуты. Девочка ничего сама не знала, не знала индустрию, но накидывала варианты с невероятной скоростью. А запрос был очень простой: используя опыт рекламных кампаний «Каннских львов», придумать рекламную кампанию на радио для телеком-оператора. Немного точечной настройки понадобилось – и все, кейс на 10 млн случился. Причем Midjourney нагенерировала даже визуал. Без ИИ понадобилась бы команда в пять человек. А тут часовая встреча и одна девочка без опыта.
Сергей: На мой взгляд, вы сейчас такую жутковатую ситуацию описываете. Получается, что, если будем прибегать к подобного рода инструментам, мы никогда не получим нового, другого, неформатного, потому что эти нейросети и эти девочки, которые впервые все это видят, будут все время выдавать готовые, проверенные, компромиссные, безопасные, не очень-то и креативные результаты.
Кирилл: А корпоративный бизнес не хочет креативных результатов, тем более сейчас. Клиент все время блефует. Говорит: «Ребята, нам нужна заметная рекламная кампания!» Но не дай бог, чтобы на нее при этом обратили внимание. Если ты делаешь что-то провокационное, с тобой просто прекращают работать. Не время сейчас выделяться.
Сергей: То есть получается, что если человечеству в какой-то момент скажут: «Извините, вы нам больше не нужны», то это значит, что люди сами виноваты – такой у них был запрос на формат, на безопасность, на компромисс?
Трифон: Жень, вопрос про то, что люди не нужны. Какие тренды на рынке труда ты видишь? Начались ли массовые увольнения, которых все боятся? Что происходит? Мы все время говорим про искусственный интеллект так, как будто он сам себя может обслуживать. Но ведь ему нужны операторы?
Евгений Вольнов: Мой любимый вопрос. Я бы для начала сказал пару слов о метафорах. Один из основателей когнитивной лингвистики Джордж Лакофф, автор книги «Метафоры, которыми мы живем», один из первых исследователей, который этой сферой занялся, на старости лет устроился в компанию, занимающуюся искусственным интеллектом, как раз чтобы помочь им привнести метафоричность в то, что делает искусственный интеллект, и сделать его максимально приближенным к тому, как мыслит человек. Мне кажется, что мы с этой стороны не защищены. И очень переоцениваем свою креативность. Думаю, еще три-четыре года, и мы будем удивляться тому, какие мы были нетворческие. В The Wall Street Journal была довольно большая статья еще в мае, где рассказываются личные истории копирайтеров – как их увольняли из всяких нью-йоркских агентств. Они пишут тексты, а потом... Там одна девушка очень интересно рассказывает. Она в «Слаке» увидела, что много обсуждений ChatGPT. Потом коллеги начали экспериментировать, потом начали шутить и сравнивать ее с ChatGPT. А потом ее просто уволили.
Действительно, в России тоже такие истории происходят. У меня есть знакомые, друзья из креативных агентств, которые мне говорят: «Жень, ну мы вообще троих копирайтеров уволили, теперь один работает. Ни в чем не потеряли, только приобрели». Я не уверен, честно говоря, что сейчас так работает, потому что мне приходится много презентаций делать – и ChatGPT так себе помощник, учитывая, что ни платная, ни бесплатная версии все еще не имеют доступа к открытому интернету. Но я все равно думаю, что это серьезная опасность. Не знаю, как вы, а за себя в ближайшие пять лет я точно переживаю, потому что в опасности все люди, которые создают какой-то контент, а мы, белые воротнички, вообще много создаем контента – презентации, тексты. Я думаю, что во многих профессиях, особенно тех, которые в мидл-сегменте, где от сотрудников не ждут каких-то выдающихся результатов в плане продукта креативного (в текстах, картинках, презентациях), там людей уже вполне заменяют. У Google есть их внутренний продукт под названием Pitchfork, который за разработчиков код дописывает. Там руководитель разработки прямо говорит: все это делается, чтобы людей уволить. Есть история «Амазона», который месяца три или четыре назад автоматизировал ряд своих рекрутерских процессов. Тысячи рекрутеров были уволены. Я думаю, что мы в этом плане в кризисе. В регулирование я не очень верю. Можно посмотреть, как это было с алкоголем, с наркотиками. Курение в общественных местах запрещать или не запрещать? У нас было много времени, чтобы это как-то решить, а это гораздо легче, чем в случае с искусственным интеллектом.
Сергей: А мне как раз кажется, что с точки зрения регулирования все просто. Вопрос-то в том, зачем вообще общество и государство, на что направлена их деятельность? У нас во главе угла человек? Или нет? Или мы сворачиваем всю эту историю про права человека и признаем, что сам по себе человек никому не нужен?
Кирилл: Насчет увольнений. Мы сейчас управляем так называемой фабрикой контента, около ста человек (копирайтеры, дизайнеры и так далее). Заказчики – медиакомпании, у которых большая потребность в SMM. И вот с этой фабрики контента не уволили ни одного человека. Но подняли норму выработки. То есть копирайтер становится оператором комплексной нейросети, которая позволяет ему производить контент в совершенно другом количестве. Если раньше он был ремесленником, то теперь – рабочий на мануфактуре. Насчет авторских прав – у нас был кейс, когда мы звезду оцифровывали для Метавселенной Сбера. Ушло три месяца на переговоры. Там все было прописано, было десять итераций переговоров с менеджментом этого артиста, все регламентировалось, потому что уже сейчас понятно, что после этого артист своим образом уже не управляет. Как будет в Голливуде, я боюсь представить. Там хотят вообще запретить оцифровку, потому что если один раз оцифровать человека, добавить туда ИИ, то получится полноценный нейроартист, и живой человек станет больше не нужен. Половина контента Netflix и так уже нарисована нейросетями. Похожая история была с радиоиндустрией, когда Spotify собрал с рынка лучших музыкальных редакторов, обучил свои алгоритмы и сделал самый лучший продукт.
Сергей: А потом всех этих редакторов поувольнял, когда алгоритмы заработали.
Кирилл: Я думаю, что креативная индустрия быстро выработает регламент работы и передачи интеллектуальных прав. Пример с Цоем. Если бы он был жив, то, возможно, смог бы получать совместно с владельцами прав на песню свою долю вознаграждения.
Сергей: Пора, видимо, писать всемирную декларацию цифровых прав человека.
Михаил: Может быть, и пора, но соблюдаться она не будет, как и все остальные декларации. С другой стороны, Кирилл сейчас вполне доходчиво рассказал, как можно грамотно и рационально реализовать на практике старый латинский принцип: времена меняются, и мы меняемся вместе с ними. Tempora mutantur, et nos mutamur in illis. Кто-то будет уволен, кому-то придется переквалифицироваться. Это нормально, история не стоит на месте. Все движется. Когда-то кусок камня десять человек тянули волоком, потом какой-то придурок придумал колесо, и вот этот кусок камня уже везет один человек на тележке. Когда-то половина человечества рубила дрова. Потом кто-то нашел каменный уголь, и куча лесорубов осталась без работы. Потом открыли нефть.
Сергей: Да, но проблема-то в том, что человечество становится все больше и больше. Добавляется миллиард, потом еще миллиард, а способов как-то эти миллиарды задействовать все меньше и меньше. Ну, окей, будут операторы нейросетей. А остальные-то что будут делать, для чего они нужны? Их надо как-то кормить, образовывать. Или оставим их приложениями к смартфону?
Михаил: Так это идеальное для них состояние – сидеть дома, торчать в интернете, играть, развлекаться.
Сергей: На мой взгляд, это довольно удручающая перспектива. Уже сейчас техника развивается, а люди в это время чем заняты? Поют и пляшут у себя в инстаграме разве что.
Михаил: То есть проблема в целом не в количестве, а в качестве. И человечество не очень умное, и продукт, который у него получился, этот искусственный интеллект, тоже не очень умный. Но этого как раз видеть никто не хочет.
Кирилл: А я скорее смотрю на все это как практик. Понятно, что все боятся внедрения ИИ. Например, дальнобойщики боятся, что их заменят беспилотными грузовиками. Ну заменят, конечно, но этот процесс так растянется во времени, что общество ничего не заметит. Раньше человек был дальнобойщиком, потом сменил профессию. В Америке это уже и так принято, люди три-четыре раза в жизни переезжают и пару раз могут переквалифицироваться. Был человек копирайтером, станет кем-то другим.
Сергей: Станет посудомойщиком или уборщиком в гостинице. Прекрасная перспектива.
Михаил: У человека всегда есть выбор!
Кирилл: Возможно, он станет писателем.
Михаил: Прекрасный принцип, который очень хорошо знают медики: адаптируйся или сдохни!
Сергей: Не знаю, мне все это не нравится. Я вам честно скажу: просто как обывателю мне все это не нравится.
Михаил: Да и мне не нравится. Но я могу такую аналогию предложить. Когда-то в Римскую империю пришло христианство, и она разрушилась. Мир изменился. Какое главное качество у божества? Оно все знает. Кто сейчас знает все? Это Google. Идет не глобализация, а гуглизация. Абсолютно вся информация есть в сети. Скоро все будет оцифровано.
Сергей: То есть в начале была цифра все-таки, а не слово.
Михаил: Илон Маск, опять же, пытается весь мир, как бы это сказать... не окрестить, а оцифровать.
Сергей: А почему не окрестить? У них же крест на новом логотипе.
Михаил: Ну, кстати говоря, апостола Павла, кажется, как раз на таком косом кресте и распяли. Так вот, эта новая как бы религия обращается не к Богу, а к Google. Теперь у него появилась речь, появился оракул – ChatGPT. Если прежние боги молчали, то этот болтает, не переставая. Проблема в том, что несет он какую-то чушь. Есть сериал со Стивом Бушеми и Рэдклиффом, «Чудотворцы», по-моему, называется. Там Стив Бушеми играет Бога в первой части. Он такой тупой, вообще двоечник серый, создал Землю на деньги родителей. Вот этот нейросетевой бог новой эры тоже очень глуп. Глуп, но огромен и болтать будет бесконечно. Для этого даже есть специальное понятие – «пустая речь». И пока человечество не сообразит, что это ерунда какая-то, мы так и будем вынуждены эту болтовню слушать.
Сергей: Но как в таких обстоятельствах сохранить себя как человека?
Трифон: Я хотел похожий вопрос задать: как у нас в таких обстоятельствах с психическим здоровьем?
Михаил: Тревоги стало много. Теперь ни голосов нормальных, ни галлюцинаций – галлюцинации уже студентам показывают как диковину. А вот уровень тревоги зашкаливает. Я думаю, если ХХ век был веком антидепрессантов, то XXI будут вспоминать как эру противотревожных. И смежный момент: люди не размножаются. В Европе совершенно официальное понятие – сексуальная рецессия.
Сергей: Я, кстати, подтверждаю. Я много лет наблюдаю за героями наших реалити-шоу. Есть «Пацанки», например. Им всем где-то между 17 и 23, и они все довольно асексуальны.
Михаил: Абсолютно верно. Сейчас основное поле для самореализации – это сеть. Там все через речь, через картинки. В сети все хорошо. Во-первых, она все стерпит. Во-вторых, все неприятное там можно забанить. Это бесконечное пространство, места хватит на всех. Но есть одна проблема: туда не влезает тело. Рвутся социальные связи – в переписках они становятся даже более устойчивыми, но вот чтобы потрогать друг друга, пофлиртовать, поцеловаться – этого нет. Я думаю, одно или два поколения сильно из-за этого пострадают. Но потом начнется движение за кнопочные телефоны какие-нибудь. В принципе, отдельные случаи уже сейчас есть.
Трифон: Тут Ги Дебор крутится в могиле просто, потому что это невероятная степень иллюзорности. Тебе кажется, что ты проживаешь какой-то опыт, а на самом деле он никак ни с чем не соотнесен.
Кирилл: Опять же, практический опыт. К нам обращались ребята и просили написать нейтронку, которая будет флиртовать, как девушка. Странный запрос. Я спрашиваю: «Для чего?» – «Для сайтов знакомств, чтобы общаться с посетителями, пока, условно, проект раскачивается». Мы сделали какую-то первую итерацию. Потом мы поняли, что происходит что-то странное. Оказалось, ребята строят такие алгоритмы для мошеннических систем, которые общаются в сети с мужчинами и выманивают у них деньги. Это был второй клиент в России, который интересовался технологией. Очень передовая индустрия. А про телесность был фильм с Сильвестром Сталлоне, где он попадает в мир будущего. Там, в частности, секс был только через специальные виртуальные шлемы. Самый интересный проект Маска – это, по-моему, Neuralink. Это как раз имплант в голову, который может вернуть взаимодействиям в сети телесность. В какой-то момент эта штука наверняка научится полностью контролировать гормональный фон, выбрасывать в кровь нужные гормоны в нужный момент, и имитация физического опыта будет полной. Прогресс так не работает, мы не вернемся к кнопочным телефонам. Возможно, это будет такой аксессуар, чтобы по нему звонить, но в голове у нас в этот момент все равно будет балалайка, рулящая всем остальным. И кофейник тебе будет говорить: что-то ты сегодня много кофе выпил.
Сергей: Захочет ли человек так жить?
Кирилл: Хотят ли в Мьянме дети пить воду из луж? Человечество же никогда не спрашивают. Есть люди, у которых есть энергия, видение, за ними идут все остальные. Пастыри и паства. В Европе пытаются как-то сохранить свой уклад. Они пытаются зацементировать комфортную жизнь в медленном спокойном режиме. В результате бизнес работает медленно, решения принимаются медленно. Если бы не заградительные меры, то китайцы, турки, мы – мы бы сожрали европейские экономики в момент. Они неконкурентоспособны. Там какой-то социализм. Уволить человека невозможно, должен год у тебя отработать. Слушайте, а вот вы готовы поставить себе имплант в голову, если специалисты скажут, что это 100% безопасно?
Сергей: Я не готов, потому что я не настолько заточен на получение удовольствия от жизни. Оно не является для меня самоцелью.
Кирилл: А если это будет инструмент для реализации творческих планов? Это же компьютер в голове, второй пилот, который позволит мне мои задачи более эффективно решать.
Сергей: А стоит ли вообще стремиться решать задачи эффективно? Мы эффективность поставили во главу угла, но это разве ценность сама по себе? У нас теперь производство как таковое превратилось в самоцель. Я, например, противник бесконечного повышения эффективности.
Евгений: Я думаю, если говорить про эффективность в корпоративном контексте, мы оказались сейчас в достаточно уникальной экономической ситуации – в плохом смысле. Инфляция растет быстрее, чем зарплаты. При этом, если говорить о компаниях из когнитивной экономики, там, где знания важны, где важны специалисты высокой квалификации, то им сложно, потому что эти специалисты высокой квалификации, наоборот, хотят более высокие зарплаты, чем вчера. Содержать людей очень дорого. При этом акционеры хотят больше зарабатывать и больше получать и чтобы компания еще и росла. Экономика не позволяет этого сейчас и не позволит, скорее всего, еще годы. И это мы еще не говорим о декарбонизации. Сейчас еще всем будут говорить: производите меньше, потому что экология. Меньше делайте того, меньше этого! А это значит, надо либо людей увольнять, либо повышать эффективность. Можно рассуждать о гуманизме, но компаниям придется увольнять людей и не нанимать больше, потому что иначе они не покажут прибыль.
Сергей: Может быть, как раз человеческий интеллект помог бы? Придумал бы новые ходы и выходы, способы спасти бизнес?
Евгений: Так и будет. Есть индустрии, которые, скорее всего, в ближайшие лет десять будут защищены от автоматизации, и при этом будут интенсивно развиваться. Вся индустрия развлечений, например. Вот мы людей осуждаем за то, что они делают контент в тиктоке. Господи, да лучше пусть они делают контент, а не на заводах работают! Вообще, будем честны, большинство людей работают очень плохо. Пусть, наверное, лучше веселятся, делают контент и получают удовольствие от жизни. Потом, долго не будет автоматизации в индустрии туризма. Я неделю назад был во Флоренции. Эффективные китайцы массово едут из своего эффективного Китая в неэффективную медленную Флоренцию, получают удовольствие, едят пиццу, пьют вино, и им по кайфу. Дома они, видимо, этого не могут. Стройка, ретейл – все эти индустрии не так легко автоматизировать, особенно в той части, которая требует высокой экспертизы. Мы в HH.ru ищем пути интенсивного развития. Конечно, ChatGPT за нас этого не сделает. Нам приходится с помощью нашей фантазии и опыта придумывать, где найти новые рынки. Человек нужен. Но и эффективность тоже важна, это не просто какая-то религиозная штука. Бизнесу тяжело, бизнесу сложно. Он привык к другому: нажал на кнопку – и заработал миллиард долларов.
Трифон: Такое было вообще?
Евгений: Я думаю, что было. Взять хотя бы Google и подобные ему компании. Они привыкли зарабатывать легко, а сейчас уже легко не получится, и это сложно принять. Все, я думаю, мечтают вернуться к прежним темпам развития. Илон Маск вот собирается на Марс. Я вполне допускаю, что в Google так и мыслят: вот поселим людей на другой планете, свой рекламный поиск там запустим. Шучу, конечно, но думаю, что там все еще большие амбиции, большие ожидания.
Трифон: Регулирование же, наверное, тоже не упросит им жизнь?
Кирилл: Ну все помнят это знаменитое уже открытое письмо, которое подписало огромное количество экспертов: остановите развитие нейросетей, или получится очень умная система. Индустрия на это отреагировала разнонаправленно. Но по факту мы видим, что система стала глупеть. Тут же появились независимые форки, которые начали обходить решения OpenAI по тем или иным позициям. Я думаю, регулирование будет идти с двух сторон, потому что суперэффективность никому не нужна. Если система будет сверхумная, она напугает общество, и общество ее запретит. Вместо этого ИИ будет, как спрут, пробираться в максимальное количество разных сфер. Уже есть неочевидные области, где он применяется, – литейная промышленность например. Биотехнологии, где он позволяет решать математические задачи, помогает биологам делать более вкусные йогурты, закваски или сплавы. С другой стороны, я видел китайский опыт. Если совместить колоссальные объемы больших данных, тотальный контроль над обществом и искусственный интеллект с его возможностями прогнозирования, кластеризацией, безумной способностью адаптироваться под конкретного человека, мы получим антиутопию Замятина «Мы». Если, конечно, общество не выскажет какой-то консолидированный протест. Безлимитная свобода для индустрии в любом случае закончилась. Теперь общество начинает рефлексировать, пытаться выработать регламенты работы, регламенты внедрения. Чтобы, например, если в какой-то отрасли появятся сверхэффективные решения, которые поставят под угрозу рабочие места, это можно было урегулировать. Вот в Америке протестуют сценаристы и актеры. .
Трифон: Какие прогнозы по поводу конкретно этой истории? Они добьются своего?
Кирилл: Нет. Я уверен, что шансов у них нет. Корпорации не мыслят категориями «сейчас урвать и убежать». Они рассуждают так: «Окей, сейчас эти люди, уже получившие деньги и имеющие власть, вряд ли пойдут нам навстречу. Но в течение следующих двадцати лет каждый новый контракт будет все более и более жестким. И лет через сорок мы получим свое». То есть индустрию во власти корпораций, во власти машин. За исключением какого-то артхауса, может быть. Может быть, начнется уход в андеграунд, какие-то звезды мировой величины откажутся от работы с мейджорами. Но я видел, как оцифровывают звезду первой величины, и я понимаю, что будет дальше. Я думаю, нам продадут победу профсоюзов сценаристов и актеров, скажут, что мейджоры пошли им навстречу. А в действительности искусственного интеллекта постепенно станет все больше. Я видел производственные процессы Netflix. Их задача – производить безумное количество контента с минимальной себестоимостью и под все регионы. Единственный путь для них – нейросети.
Евгений: Возвращаясь к вопросу о том, у кого будет работа, а у кого нет. Я думаю, у 90% работы не будет. Останутся 10% самых талантливых. Или по крайней мере приносящих максимальную пользу корпорациям.
Трифон: И что станут делать 90% безработных? Случится восстание масс?
Сергей: Я, честно говоря, не верю ни в какое восстание масс, не инспирированное сверху. Китайская модель пугающая, но самая вероятная. На днях была новость – новое китайское приложение научилось определять, находится ли поблизости с тобой человек с низким социальным кредитом. Причем низкий соцкредит может быть по разным причинам – преступник, неблагонадежный, должник. Но приложение в любом случае тебе сообщает о том, что в общественном пространстве стало небезопасно. Лишний повод сидеть в своей капсуле три на три метра и никогда оттуда не выходить. Так что я смотрю в будущее, как тут было сказано, с тревогой.
Евгений: Мы несколько раз говорили о китайской модели. Надо понимать, что это модель эффективного и масштабируемого производства. Например, известная компания Foxconn, которая делала айфоны и под окнами фабрик устанавливала сетки, чтобы нельзя было выпрыгнуть и покончить жизнь самоубийством.
Кирилл: Это очень гуманно, кстати.
Евгений: Супергуманно. Могли бы и сэкономить на сетках-то. Журналисты спрашивали китайцев, что они об этом думают, и мнение было такое, что у других китайских работодателей примерно то же самое, только сеток нет. Эту модель я бы точно не хотел масштабировать на весь мир. Пусть они там производят, а мы в этой застывшей Европе будем пиццу здесь есть и запивать вином. Насчет регулирования – месяца два назад в Нью-Йорке вступил в силу закон, который заставляет компании, использующие ИИ при найме сотрудников, ежегодно проходить проверку на этику использования этой технологии.
Сергей: А кто проверяет?
Кирилл: Такой же вопрос хотел задать.
Сергей: Или это как в Google – «докажите, что вы не робот»?
Евгений: Да непонятно пока. Они сами не знают, как реагировать. Но закон нужный, потому что ИИ – это же черный ящик. Раньше можно было хотя бы человека как-то наказать, который неправильно собеседование провел, а теперь никого не накажешь. Почему ИИ отсеял того или иного кандидата? Он же не объясняет.
Кирилл: Из практического опыта. У нас есть такой ведущий, Райтраун. Он матерится, очень агрессивно себя ведет. Мы обучили на его репликах нейросеть. Но на этапе внедрения программисты что-то перепутали и подключили его к корпоративному чату другого клиента. И вот в корпоративный чат врывается нейросеть и начинает там всех материть. И кто виноват в том, что случилось? Там девушки сразу начали: «Ой, сексистские шутки, безобразие!» Ну мы выперли этого бота, извинились. А в Америке это сразу была бы гора судебных исков от обиженных женщин.
Трифон: То есть все-таки нужно регулирование ИИ?
Кирилл: Безусловно, нужно. Опасная технология.
Сергей: Она столько сфер затрагивает, где сразу возникает множество вопросов – от этических до юридических. Конечно, нужно.
Кирилл: В теории ИИ можно попросить придумать самодельное взрывное устройство из подручных материалов или подсказать способ самоубийства. Я думаю, ограничения на такие вещи ему прошьют довольно быстро. А что касается последствий для рынка труда, то тут включатся общественные организации, профсоюзы, которые в каждой конкретной отрасли будут вместе с регулятором формировать ограничения.
Сергей: Другое дело, что расцветет черный рынок этих услуг, как мы понимаем. То есть проблема будет не решена, а криминализирована.
Кирилл: Важно не пережать. Допустим, запретят полностью нейросетевых композиторов. Что мешает живому человеку тайно ими пользоваться и говорить, что это он сам музыку написал?
Евгений: Мне кажется, мы немного забегаем вперед. ИИ, конечно, есть не везде и еще долго не будет везде. Если выйти на улицу, там почти ничего связанного с ИИ не будет. Просто его много в нашей области, и от этого нам кажется, что ИИ в каждом утюге.
Кирилл: Мы не видим, как технология используется инженерами, проектировщиками, химиками, биологами, медиками. Например, композитные материалы, которые были придуманы благодаря искусственному интеллекту. Нам кажется, что ИИ начали внедрять только сейчас, но, вообще говоря, мой первый опыт работы с ИИ был в мерчандайзинговой компании – там люди фотографировали расстановку товаров на полках, мы делали для них программное обеспечение. И это было пять лет назад. Российская компания, лидер рынка.
Евгений: В рекламе начали с ИИ экспериментировать лет пятнадцать назад, наверное. Но мы сейчас говорим про потребительское, ежедневное внедрение. Мы от этого далеки. Пока это не станет массовым, никто особо и не озаботится серьезным регулированием. Почему первый закон связан именно с HR? Потому что технология пошла в массы. Буквально за год появилось огромное количество ИИ-продуктов на эту тему. Стало понятно, что сейчас каждый человек будет через это проходить. Надо это как-то отрегулировать. Но индустрий, где подобный рывок происходит, не так много, поэтому мне кажется, что регуляторы будут раскачиваться долго.
Кирилл: Да, это пока неочевидно. Но скоро это будет везде. Моей дочери сейчас восемь лет. Когда она первый раз столкнулась с отсутствием интернета, она смотрела на меня круглыми глазами. Есть воздух, есть вода, а интернета нет. Я долго ей пытался объяснить, что интернет – это не какая-то базовая штука, что он не всегда доступен. И что я, например, вырос в мире, где интернета вообще не было, да и телефона могло рядом не быть. Мне кажется, она мне не поверила.