Илон Маск, Стив Возняк и еще более 1000 экспертов призвали приостановить обучение ИИ из-за серьезных рисков для общества
Глава SpaceX, Tesla и Twitter Илон Маск, сооснователь Apple Стив Возняк и еще более 1000 экспертов в сфере технологий подписали открытое письмо с призывом не менее чем на полгода остановить обучение систем искусственного интеллекта, более мощных, чем GPT-4.
Подписанты считают, что системы ИИ, которые уже начинают составлять конкуренцию человеку в решении многих задач, могут представлять серьезные риски для общества и человечества в целом. По их мнению, мощные системы ИИ следует разрабатывать только в случае уверенности в том, что их эффекты будут положительными, а риски — управляемыми.
В последние месяцы разработчики ИИ всецело посвятили свою работу «неконтролируемой гонке» по созданию все более мощных моделей, действия которых даже их авторы сами не могут до конца понять, предсказать и проконтролировать, указано в письме.
Авторы обращения отмечают, что не призывают к полной остановке развития ИИ, а добиваются лишь «выхода из опасной гонки». В период паузы разработчикам стоит объединить усилия для разработки единых правил безопасности и контроля над экспериментами.
В число подписантов также вошли соучредитель Pinterest Эван Шарп, глава Stability AI Эмад Мостак, сооснователь Skype Яан Таллинн, а также ученые и профессора из Йельского, Оксфордского, Гарвардского, Кембриджского, Стэнфордского, Массачусетского технологического университетов и многие другие.
На прошлой неделе основатель Microsoft Билл Гейтс опубликовал эссе, которым провозгласил начало эпохи искусственного интеллекта. По мнению бизнесмена, ИИ произведет во многих сферах жизни человека революцию, сравнимую с возникновением мобильных телефонов и интернета.