«Несет угрозу для всего человечества». Выяснились подробности громкого увольнения Альтмана из OpenAI
По информации источников The Wall Street Journal и Reuters, увольнение разработчика ChatGPT Сэма Альтмана могло быть вызвано серьезными опасениями из-за развития искусственного интеллекта (ИИ), которым занималась компания в экспериментальном проекте.
Источники агентства Reuters в компании OpenAI на условиях анонимности сообщили, что компания сделала «мощное открытие» в развитии искусственного интеллекта, которое «несет угрозу для всего человечества». Это могло стать одной из причин внезапного увольнения гендиректора OpenAI Сэма Альтмана, участвовавшего в разработке нейросети ChatGPT, считают источники.
Речь идет об экспериментальном проекте компании под названием Q* (Q-Star), который недавно показал значительные успехи на пути создания абсолютно нового типа искусственного интеллекта — универсального искусственного интеллекта (Artificial General Intelligence / AGI, либо УИИ).
«Отличие ИИ от УИИ кардинальное. Обычный искусственный интеллект запрограммирован рассуждать разумно, обладая лишь небольшими элементами неподконтрольного ему человеческого разума. А универсальный искусственный интеллект будет способен обучаться, понимать и принимать решения полноценно и полностью самостоятельно. Такая машина сможет превысить возможности людей и даже захотеть их уничтожить», — объясняет агентство Reuters со ссылкой на источники.
Сейчас проект Q-Star начали испытывать на математических задачах. По информации источников, гендиректор OpenAI Сэм Альтман активно финансирует и продвигает этот проект, так как стремится сделать ChatGPT одним из самых совершенных искусственных интеллектов в мире, приблизив его к преобразованию в УИИ.
Это вызвало тревогу и опасения у совета директоров OpenAI, которые не всегда были способны отслеживать прогресс Q-Star из-за поведения Альтмана.
Последний непубличный отчет от некоторых исследователей OpenAI, в котором описывались достижения в разработке УИИ, мог стать одной из причин внезапного увольнения Сэма Альтмана, говорят источники.
«Больше всех беспокоился один из членов совета директоров OpenAI и уроженец России программист Илья Суцкевер. Он, в отличие от Альтмана, выступает против коммерциализации и стремительного развития искусственного интеллекта, так как боится, что УИИ в будущем будет обращаться с людьми так же, как люди обращаются с животными», — отмечает издание The Wall Street Journal со ссылкой на сотрудников OpenAI, знакомых с ситуацией.
По информации The Wall Street Journal, именно Суцкевер был инициатором увольнения Альтмана и был первым, кто сказал ему об увольнении. Тем самым Суцкевер хотел сильно замедлить работу над развитием УИИ и попытаться сделать его более безопасным.
Именно ради этого вместо Альтмана на пост гендиректора сначала хотели назначить Эммета Шира, бывшего главу стриминговой платформы Twitch, «жестко выступающего» против искусственного интеллекта и связанных с ним угроз.
Но этого не произошло, и Суцкевер затем публично извинился перед Альтманом в твиттере, пишет The Wall Street Journal.
Напомним, что на днях в OpenAI произошел серьезный кризис, который мог привести к полному распаду компании и значительным проблемам в работе ChatGPT.
Дело в том, что совет директоров компании в минувшую пятницу вдруг решил уволить своего руководителя Сэма Альтмана, участвовавшего в разработке нейросети. По официальной версии совета директоров, «Альтман не всегда был открыт по отношению к руководству», и поэтому он был смещен с поста гендиректора OpenAI.
Это решение вызвало резкое недовольство среди большинства сотрудников и спонсоров OpenAI, которые пригрозили массово уйти вслед за Альтманом. Однако все обошлось, так как Альтмана уговорили вернуться назад.
Компания OpenAI была основана в 2015 году. В числе основателей, кроме Сэма Альтмана, был также и миллиардер Илон Маск, однако в 2018-м он покинул компанию, чтобы уделить больше внимания развитию бренда электромобилей Tesla (позже, летом 2023 года, Маск вновь вернулся в отрасль искусственного интеллекта, создав новую компанию xAI).
Комментарии