Итоги саги о Сэме Альтмане и OpenAI: что произошло и почему

17 ноября 2023 года совет директоров OpenAI объявил об увольнении генерального директора Сэма Альтмана и последующем выводе из состава совета президента Грега Брокмана. Всего через четыре дня Альтман был возвращен на свой пост. 

Когда Альтман был уволен, согласно Сообщение в блоге OpenAIАльтман не былоткровенно" с советом директоровЕго связи не были достаточно прозрачными.

В возникшем хаосе Альтман и Брокман собирались присоединиться к Microsoft в новой исследовательской группе. Сотрудники восстали против совета директоров OpenAI, и большинство из них заявили, что уйдут, если совет не отменит свое решение.

Соучредитель Twitch Эммет Шир стал генеральным директором на несколько дней, после чего Альтман, благодаря коллективным действиям, был восстановлен в должности генерального директора.

Это, пожалуй, самая необычная серия событий в истории управления компаниями Кремниевой долины.

Биография Сэма Альтмана в OpenAI

Альтман родился в Чикаго в 1985 году и с ранних лет проявлял необычайный интерес к технологиям. К восьми годам он уже программировал и разбирал компьютеры. В 2015 году Альтман стал одним из основателей компании OpenAI вместе с другими технологическими боссами, такими как Элон Маск. 

До своей работы в OpenAI Альтман с 2014 года занимал пост президента Y Combinator, известного инкубатора для технологических стартапов. Под его руководством в Y Combinator ежегодно поступало до 40 000 заявок от стартапов.

OpenAI изначально начинала как некоммерческая организация, ноПосле ухода Маска в 2018 году Альтман занял пост генерального директора OpenAI.

Под его руководством компания перешла на коммерческую модель в 2019 году, быстро получив инвестиции от Microsoft в размере $1 миллиарда долларов. Это ключевое событие в истории OpenAI. 

Она заложила основу для разработки и публичного выпуска ChatGPT в ноябре 2022 года. В 38 лет Сэм Альтман возглавил компанию, которая за два месяца набрала ошеломляющее количество пользователей - 100 миллионов. Эра генеративного ИИ уже началась, и OpenAI прочно заняла место в центре этой новой экосистемы. 

Запуск ChatGPT стал катализатором волны финансирования ИИ в Кремниевой долине, объем которого составил $17,9 млрд, по данным Bloomberg.

Несмотря на успех ChatGPT, OpenAI под руководством Альтмана столкнулась с рядом проблем. Вопросы интеллектуальной собственности, конфиденциальности данных и этической интеграции ИИ в общество вызвали ожесточенные споры. 

Уникальная доска OpenAI 

OpenAI работает по уникальной модели управления. Ее совет директоров, состоящий из людей, не владеющих акциями компании, руководствуется миссией создания безопасного искусственного интеллекта общего назначения (AGI), который приносит пользу человечеству в целом, а не концентрируется на прибыли. AGI - это искусственный интеллект, который в целом равен или превосходит человеческое познание. 

Необычный состав совета отражает приверженность OpenAI принципам ее основателей, а также ее продвижение от первоначального некоммерческого статуса в 2015 году к закрытой коммерческой компании.

Помимо Альтмана и Брокмана, в совет директоров OpenAI до увольнения Альтмана входили: 

• Адам Д'Анджело: Генеральный директор Quora Адам Д'Анджело входит в состав совета OpenAI с апреля 2018 года. Известный своими идеями в области ИИ, Д'Анджело считает, что его точка зрения на этичное и безопасное развитие технологий ИИ оказывает ключевое влияние на решения совета. Д'Анджело остался на доске после того, как Альтман был восстановлен в должности. 
• Таша Макколи: Старший научный сотрудник по вопросам управления в RAND Corporation, Макколи прошла путь от соучредителя Fellow Robots до своей нынешней должности, уделяя большое внимание инновациям и управлению ИИ. Ее участие в Принципы искусственного интеллекта Асиломара и руководящие принципы разработки ИИ тесно связаны с основополагающими принципами OpenAI. Макколи был исключен из состава совета после того, как Альтман был восстановлен в должности. 
• Илья Суцкевер: Будучи соучредителем OpenAI наряду с Альтманом и Брокманом, Суцкевер оказал значительное влияние. Его образование в области компьютерных наук и роль первоначального директора по исследованиям, а затем главного научного сотрудника OpenAI позволили ему глубоко понять технологические и исследовательские задачи компании. Его вклад сыграл важную роль в формировании направления деятельности организации и приоритетов исследований. Суцкевер был выведен из состава совета директоров после того, как Альтман был восстановлен в должности. 
• Хелен Тонер: Опыт Тонер в области политики и этики ИИ, полученный ею в Джорджтаунском центре безопасности и новых технологий, помог ей разобраться в глобальных последствиях и этических аспектах развития ИИ. Тонер был выведен из состава совета после того, как Альтман был восстановлен в должности. 

По состоянию на 26/11/23, в новый совет директоров OpenAI входят Д'Анджело и:

• Брет Тейлор: 43-летний Брет Тейлор - видный деятель технологической индустрии, известный как программист и предприниматель. Он является членом совета директоров компании Shopify, а ранее был одним из генеральных директоров Salesforce.
• Ларри Саммерс: 68-летний Ларри Саммерс - американский экономист с богатым опытом государственной службы и научной деятельности. Он занимал пост министра финансов США с 1999 по 2001 год и директора Национального экономического совета с 2009 по 2010 год при президенте Обаме. Саммерс также является профессором Университета Чарльза В. Элиота и почетным президентом Гарвардского университета. Кроме того, он входит в советы директоров компаний Block Inc. и Skillsoft Corp и является советником Andreessen Horowitz.

OpenAI намерена расширить состав совета до девяти человек.

Хронология событий, связанных с уходом и возвращением Альтмана

Уход Альтмана, который владел лишь косвенной долей в OpenAI благодаря инвестициям Y Combinator, где он ранее был президентом, стал шоком, учитывая его центральную роль в компании. 

По словам источников, он не участвовал в голосовании по его отстранению, что указывает на возможные внутренние разногласия или изменения в видении будущего компании.

Исключение Брокмана из совета директоров и последующая отставка способствовали резким изменениям в руководстве организации.

Вот хронология этих американских горок:

До 17 ноября 2023 года

• В преддверии инцидента: OpenAI работает в обычном режиме, без каких-либо публичных признаков предстоящей смены руководства. Он продолжает исполнять обязанности генерального директора, регулярно участвуя в работе и представляя OpenAI на различных мероприятиях.

17 ноября 2023 года

• Ранние часы: Сэм Альтман занимается своими обычными делами, в том числе выступает на саммите Азиатско-Тихоокеанского экономического сотрудничества в центре Сан-Франциско.
• Вечер: Альтман присутствует на собрании на складе в Окленде, выступая перед группой художников с докладом о генеративном ИИ. Он выглядит расслабленным и увлеченным, не показывая никаких признаков предстоящего объявления.
• Поздний вечер: Альтман покидает мероприятие в Окленде, ссылаясь на то, что опаздывает на встречу.
• Решение совета директоров OpenAI: Совет директоров OpenAI, проведя проверку, пришел к выводу, что Альтман не был последовательно откровенен в общении с советом. Это, по мнению совета директоров, мешало ему выполнять свои обязанности.
• Объявление об уходе Альтмана: OpenAI публично объявляет о прекращении полномочий Сэма Альтмана в качестве генерального директора. Причиной увольнения совет директоров называет отсутствие уверенности в его способности продолжать руководить компанией.

17 ноября 2023 года (после объявления)

• Реакция Грега Брокмана: Вскоре после этого объявления Грег Брокман, соучредитель и бывший председатель совета директоров OpenAI, подал в отставку. Несмотря на первоначальные планы, согласно которым он должен был остаться в компании в другом качестве, он решает уйти совсем.
• Назначение Миры Мурати: Мира Мурати, директор по технологиям OpenAI, назначена временным генеральным директором после ухода Альтмана.
• Ответ Сэма Альтмана: Свое первое публичное заявление после увольнения Альтман сделал в социальной сети X. Он не сообщил конкретных подробностей инцидента, но сообщил, что расскажет о своих дальнейших планах позже.
• Другие коллеги уходят: Еще несколько коллег покидают компанию в знак солидарности. 

Мы с Сэмом потрясены и опечалены тем, что сделал сегодня совет директоров.

Прежде всего, мы хотели бы поблагодарить всех невероятных людей, с которыми мы работали в OpenAI, наших клиентов, наших инвесторов и всех тех, кто обращался к нам.

Мы тоже все еще пытаемся понять, что именно...

- Грег Брокман (@gdb) 18 ноября 2023 года

После 17 ноября 2023 года

• Реакция промышленности: Сообщество разработчиков технологий и ИИ реагирует с удивлением. Партнеры, включая Microsoft, и инсайдеры выражают шок, поскольку не знали о ходе обсуждения и решении совета директоров.
• Неопределенность: Технологическая индустрия начинает рассуждать о будущем направлении OpenAI, особенно в контексте его быстрого роста и влияния после запуска ChatGPT.

первый и последний раз, когда я ношу такое. pic.twitter.com/u3iKwyWj0a

- Сэм Альтман (@sama) 19 ноября 2023 года

20 ноября 2023 года

• Новый генеральный директор OpenAI: Новый генеральный директор OpenAI: Эммет Шир, соучредитель Twitch, назначен новым генеральным директором OpenAI. 
• Microsoft нанимает Альтмана и Брокмана: Microsoft наняла Сэма Альтмана и Грега Брокмана. Они возглавят новую исследовательскую лабораторию искусственного интеллекта. Однако ранее сообщалось, что рост напряженность в отношениях между двумя компаниями.
• Работники восстают: Около 550 из 700 сотрудников OpenAI, включая большинство ведущих исследователей, подписать письмо Обвинив совет директоров в необдуманных действиях, что привело к массовому разгрому и последующей драме на X. Подписавшиеся угрожают уйти в Microsoft, которая якобы предоставит всем покинувшим OpenAI работу рядом с Альтманом и Брокманом.
• Давление растет: В итоге письмо подписали практически все сотрудники OpenAI.
• Microsoft вступает в игру: Microsoft заявляет, что в ее компании есть места для всех сотрудников OpenAI, что грозит крупным захватом власти и гибелью OpenAI. Наблюдатели опасаются, что Microsoft будет владеть всей властью и талантами в области ИИ, в том числе Элон Маск, который сказал, что это было бы наихудшим исходом.
• Спекуляция: Многие предполагали, что OpenAI канет в безвестность, если начнется массовый исход. Microsoft может стать новый лидер в области генеративного искусственного интеллекта, поглощение опыта OpenAI своей зрелой коммерческой структурой.

Сегодня мне позвонили и предложили рассмотреть возможность, которая выпадает раз в жизни: стать временно исполняющим обязанности генерального директора компании @OpenAI. Посоветовавшись с семьей и поразмыслив всего несколько часов, я согласился. Недавно я покинул пост генерального директора Twitch в связи с рождением моего...

- Эммет Шир (@eshear) 20 ноября 2023 года

21 ноября 2023 года:

• Сэм Олтман восстановлен в должности: После огромного давления со стороны сотрудников и инвесторов совет директоров вернул Альтман занял пост генерального директораи OpenAI, по сути, реформировалась. Брокман также вернулся на свой пост.
• Х взрывается: Альтман, Брокман и другие неоднократно писали на X, чтобы подчеркнуть свой триумф в возвращении OpenAI былой славы.

После 21 ноября 2023 года:

• Диагноз: Сторонники и критики OpenAI начинают выяснять, что же произошло. Выясняются скрытые мотивы, но ни один из них не подтверждается.
• Q*: Некоторые предполагают, что OpenAI работает с опасной моделью, из-за чего совет директоров уволил Альтмана, опасаясь, что он несерьезно относится к безопасности ИИ. Подробнее об этом здесь.
• Как обычно: Пока пыль оседает, Альтман, Брокман и др. продолжают свою миссию.

Правление OpenAI перевернулось, но почему? И что это значит?

Удаление и восстановление Альтмана в OpenAI стало шокирующим событием не только потому, что речь идет о высокопоставленной фигуре в мире технологий, но и потому, что оно символизирует глубокие проблемы управления ИИ.

ИИ быстро развивается и является предметом активных общественных дискуссий, спекуляций и регуляторных воздействий. 

Как сообщается, решение совета директоров OpenAI о снятии Альтмана с должности было вызвано разногласиями по поводу скорости коммерциализации ИИ и разными взглядами на безопасность ИИ. Это демонстрирует конфликт между быстрым развитием ИИ и необходимостью ответственного, этического надзора.

Похоже, что Альтман, Брокман и большинство сотрудников OpenAI хотят продолжать двигаться по нынешней траектории. Их цель - создать искусственный интеллект общего назначения (AGI), превосходящий человеческое познание.

Тем временем стоимость OpenAI стремительно подскочила к отметке $100 миллиардов и в настоящее время составляет около $86 миллиардов.

OpenAI была некоммерческой организацией, но в 2019 году перешла на новую коммерческую структуру, так что это поразительный подъем. 

Однако вместо того, чтобы представлять интересы финансовых спонсоров, совет директоров OpenAI должен был - и продолжает - действовать в интересах человечества. Это нашло отражение в составе совета директоров, который до недавнего времени включал трех сооснователей OpenAI и трех независимых членов.

Критики утверждали, что такая структура, с ее самоуправлением и отсутствием внешней подотчетности, не может быть устойчивой в долгосрочной перспективе. На данный момент это мнение подтвердилось, и новый состав совета директоров, скорее всего, не будет рисковать так, как их предшественники. 

Однако это показало, что если совет директоров обеспокоен направлением развития компании, то позитивные действия далеко не гарантированы. 

Во многих технологических компаниях основатели часто влияют на направление развития компании. Их видение и харизма могут затмить традиционные структуры корпоративного управления, но в данном случае это вышло на новый уровень. 

"Король Сэм", как его называют некоторые крупные новостные издания, не может быть смещен советом директоров.

Вопросы безопасности послужили причиной увольнения Альтмана, возможно

Большинство сходится во мнении, что совет директоров уволил Альтмана по соображениям безопасности, но, несмотря на то, что это стало фактическим изложением событий, веских доказательств практически нет. 

Одна из теорий, подтверждающих это, предполагает, что в основе дебатов о безопасности лежит Дастин Московиц, один из первых сотрудников Facebook и основатель Asana, который основал Открытая филантропия. Московиц - влиятельная фигура в области ИИ, но в последнее время он все чаще говорит о безопасности ИИ и необходимости сдержанности. 

Связи Московица с такими членами совета директоров, как Адам Д'Анджело, Хелен Тонер и Таша МакКоули, которые связаны с организациями, которые он поддерживает, говорят о его потенциальном влиянии на управление OpenAI.

Тонер также раскритиковал организацию за слишком ранний выпуск моделей GPT, что якобы провоцирует "гонку на понижение" в разработке ИИ. Это означает, что подход OpenAI к выпуску моделей ИИ может быть безрассудным или неэтичным, в отличие от более осторожных подходов, таких как подход Anthropic, который Тонер назвал в своей статье лучшей моделью управления ИИ.

Одни считают это обоснованной критикой стратегий OpenAI, другие сомневаются в ее качестве и уместности публичной критики компании, в которой они состоят. 

Наконец, появились предположения, что OpenAI сидит на опасном мощная модель под названием Q*.

Агентство Reuters сообщило, что инсайдеры связались с ними, чтобы сказать, что сотрудники беспокоились о Q* и предупредили совет директоров - но это не похоже на солидарность, которая привела Альтмана обратно в компанию.

Однако некоторые упоминают, что акции сотрудников выставляются на продажу скоро. Уход Альтмана, по крайней мере, отсрочил бы это.

А безопасность когда-нибудь была проблемой?

Мы пока не знаем. Однако, похоже, уникальная структура OpenAI, сочетающая некоммерческие цели с коммерческими операциями, в этом году утратила свой блеск. 

Сара Крепс, директор Института технологической политики при Корнельском университете, сказалСэм Альтман и Грег Брокман считают, что ускорение развития ИИ может принести наибольшую пользу человечеству. Однако большинство членов [старого] совета придерживаются иного мнения: темпы развития слишком высоки и могут поставить под угрозу безопасность и доверие".

Поскольку OpenAI выпустила коммерчески успешные продукты и привлекла значительные инвестиции, можно предположить, что Альтман, Брокман и большинство сотрудников просто не готовы спустить все на тормозах - это противоречит человеческой природе, не говоря уже о культуре Кремниевой долины. 

OpenAI быстро стала одной из самых влиятельных в мире. Они не захотят позволить своим конкурентам обойти их, остановив прогресс.

Кто выиграл от всего этого?

OpenAI формирует новый совет директоров, в который сейчас входят Брет Тейлор (бывший сотрудник Salesforce), Ларри Саммерс (бывший министр финансов США), а также Адам Д'Анджело.

Их число увеличится до девяти директоров, что, несомненно, определит дальнейшую траекторию развития организации.

Вернув себе должность, Альтман стал бесспорным лидером OpenAI. С новыми союзниками в совете директоров и меньшим внутренним сопротивлением видение Альтмана относительно ИИ, скорее всего, будет встречать меньше сопротивления. Похоже, что полагаться только на внутреннее управление недостаточно для управления сложными последствиями ИИ. 

У нас больше единства, приверженности и сосредоточенности, чем когда-либо прежде.

Мы все так или иначе будем работать вместе, и я очень рада.

Одна команда, одна миссия.

- Сэм Альтман (@sama) 20 ноября 2023 года

OpenAI будет продолжать двигаться в том же неумолимом темпе, устремляясь к AGI. Мы узнаем, каковы будут последствия, когда доберемся до него, поскольку, похоже, ничто не сможет его остановить.

По крайней мере, не дольше четырех дней.