Найти
23.11.2023 / 17:395РусŁacБел

«Несет угрозу для всего человечества». Выяснились подробности громкого увольнения Альтмана из OpenAI

По информации источников The Wall Street Journal и Reuters, увольнение разработчика ChatGPT Сэма Альтмана могло быть вызвано серьезными опасениями из-за развития искусственного интеллекта (ИИ), которым занималась компания в экспериментальном проекте.

Сэм Альтман, один из разработчиков всемирно известной нейросети ChatGPT, на днях был смещен, а затем восстановлен в должности гендиректора компании OpenAI. Фото: NurPhoto / Contributor Getty Images

Источники агентства Reuters в компании OpenAI на условиях анонимности сообщили, что компания сделала «мощное открытие» в развитии искусственного интеллекта, которое «несет угрозу для всего человечества». Это могло стать одной из причин внезапного увольнения гендиректора OpenAI Сэма Альтмана, участвовавшего в разработке нейросети ChatGPT, считают источники.

Речь идет об экспериментальном проекте компании под названием Q* (Q-Star), который недавно показал значительные успехи на пути создания абсолютно нового типа искусственного интеллекта — универсального искусственного интеллекта (Artificial General Intelligence / AGI, либо УИИ).

«Отличие ИИ от УИИ кардинальное. Обычный искусственный интеллект запрограммирован рассуждать разумно, обладая лишь небольшими элементами неподконтрольного ему человеческого разума. А универсальный искусственный интеллект будет способен обучаться, понимать и принимать решения полноценно и полностью самостоятельно. Такая машина сможет превысить возможности людей и даже захотеть их уничтожить», — объясняет агентство Reuters со ссылкой на источники.

Сейчас проект Q-Star начали испытывать на математических задачах. По информации источников, гендиректор OpenAI Сэм Альтман активно финансирует и продвигает этот проект, так как стремится сделать ChatGPT одним из самых совершенных искусственных интеллектов в мире, приблизив его к преобразованию в УИИ.

Это вызвало тревогу и опасения у совета директоров OpenAI, которые не всегда были способны отслеживать прогресс Q-Star из-за поведения Альтмана.

Последний непубличный отчет от некоторых исследователей OpenAI, в котором описывались достижения в разработке УИИ, мог стать одной из причин внезапного увольнения Сэма Альтмана, говорят источники.

«Больше всех беспокоился один из членов совета директоров OpenAI и уроженец России программист Илья Суцкевер. Он, в отличие от Альтмана, выступает против коммерциализации и стремительного развития искусственного интеллекта, так как боится, что УИИ в будущем будет обращаться с людьми так же, как люди обращаются с животными», — отмечает издание The Wall Street Journal со ссылкой на сотрудников OpenAI, знакомых с ситуацией.

По информации The Wall Street Journal, именно Суцкевер был инициатором увольнения Альтмана и был первым, кто сказал ему об увольнении. Тем самым Суцкевер хотел сильно замедлить работу над развитием УИИ и попытаться сделать его более безопасным.

Именно ради этого вместо Альтмана на пост гендиректора сначала хотели назначить Эммета Шира, бывшего главу стриминговой платформы Twitch, «жестко выступающего» против искусственного интеллекта и связанных с ним угроз. 

Но этого не произошло, и Суцкевер затем публично извинился перед Альтманом в твиттере, пишет The Wall Street Journal.

Сэм Альтман (слева) и Илья Суцкевер (справа). Фото: Abigail Uzi / Tel Aviv University

Напомним, что на днях в OpenAI произошел серьезный кризис, который мог привести к полному распаду компании и значительным проблемам в работе ChatGPT.

Дело в том, что совет директоров компании в минувшую пятницу вдруг решил уволить своего руководителя Сэма Альтмана, участвовавшего в разработке нейросети. По официальной версии совета директоров, «Альтман не всегда был открыт по отношению к руководству», и поэтому он был смещен с поста гендиректора OpenAI.

Это решение вызвало резкое недовольство среди большинства сотрудников и спонсоров OpenAI, которые пригрозили массово уйти вслед за Альтманом. Однако все обошлось, так как Альтмана уговорили вернуться назад.

Компания OpenAI была основана в 2015 году. В числе основателей, кроме Сэма Альтмана, был также и миллиардер Илон Маск, однако в 2018-м он покинул компанию, чтобы уделить больше внимания развитию бренда электромобилей Tesla (позже, летом 2023 года, Маск вновь вернулся в отрасль искусственного интеллекта, создав новую компанию xAI).

Читайте также:

Крупнейшие страны мира подписали декларацию о катастрофической опасности искусственного интеллекта

«Крестный отец» искусственного интеллекта заявил, что сожалеет о своем изобретении

Выводы из 386-страничного отчета Стэнфордского университета о сегодняшнем состоянии искусственного интеллекта

Nashaniva.com

Хочешь поделиться важной информацией
анонимно и конфиденциально?

Клас
4
Панылы сорам
9
Ха-ха
9
Ого
20
Сумна
2
Абуральна
5
1
Констатирую. /ответить/
23.11.2023
Горе, от ума. Нормальный человек не будет учить собаку, что бы она им командовала.
1
Максим Дизайнер/ответить/
23.11.2023
яя

Какой Альтман разработчик. Обычный, как и Маск, коммерс, директор венчурного фонда, решивший срубить на AI по полной.
2
Максим Дизайнер/ответить/
23.11.2023
Констатирую. ,

Барыг нужно приструнять. Что с Альтманом и сделали.
Показать все комментарии
Чтобы оставить комментарий, пожалуйста, включите JavaScript в настройках вашего браузера
Чтобы воспользоваться календарем, пожалуйста, включите JavaScript в настройках вашего браузера
мартапрельмай
ПНВТСРЧТПТСБВС
1234567
891011121314
15161718192021
22232425262728
2930