Reuters: Сэма Альтмана уволили из OpenAI после получения письма об опасном прорыве в области ИИ
Сэма Альтмана уволили с поста гендиректора OpenAI после того, как совет директоров компании получил письмо с предупреждением об опасном открытии в области искусственного интеллекта. Об этом сообщает Reuters со ссылкой на источники.
По их словам, авторами письма были несколько штатных исследователей OpenAI. Они рассказали совету директоров о важном открытии в области ИИ, которое потенциально может угрожать человечеству. Это письмо пополнило «длинный список претензий» совета директоров к Альтману и привело к его увольнению.
По данным Reuters, речь в письме могла идти о проекте Q* (произносится как Q-Star). Некоторые сотрудники OpenAI считают, что он может стать прорывом в поиске универсального ИИ (AGI), который был бы способен выполнять интеллектуальные задачи на человеческом уровне или даже более эффективно. Q* имеет огромные вычислительные ресурсы и уже может решать школьные математические задачи.
Сейчас генеративный ИИ хорошо справляется с переводом и написанием текстов, статистически предсказывая следующее слово в предложении. Однако решение математических задач, где есть только один ответ, требует более широких способностей к рассуждению, похожих на человеческий интеллект, объясняет агентство.
Что именно говорится в письме сотрудников OpenAI о потенциальной опасности нового открытия, Reuters неизвестно. Ученые давно обсуждают риск того, что AGI мог бы решить, что уничтожение человечества соответствует его интересам, отмечает агентство.
17 ноября совет директоров OpenAI объявил об увольнении Альтмана с поста гендиректора, заявив, что он «не всегда был откровенен в своем взаимодействии с советом». Более 700 из 770 сотрудников OpenAI пригрозили уйти в Microsoft вслед за уволенным Альтманом, если его не восстановят в должности.
22 ноября OpenAI сообщила о возвращении топ-менеджера на свой пост. Альтман пробыл в отставке в общей сложности пять дней.