OpenAI, некогда прозрачная лаборатория по исследованию искусственного интеллекта, еще больше отступила от своих основополагающих принципов.
Для многих это не будет новостью, но еще одно изменение позиции стало известно после недавнего общения с WIRED, которая обнаружила, что OpenAI скрывает ключевые документы от доступа.
Ранее компания заявляла, что "общественность может ознакомиться с копиями ее руководящих документов, финансовой отчетности и правилами конфликта интересов".
Делать такие документы открытыми и доступными - необычно, так почему же это проблема для OpenAI?
Разгадка кроется в названии компании - оно выбрано специально, чтобы обозначить отход от закрытых разработок в технологическом пространстве. Это ушедшая эпоха компании, по которой многие очень скучают.
В декабре 2015 года успешные технологические предприниматели Сэм Альтман и Элон Маск, а также компании, включая AWS и Infosys, запустили OpenAI, пообещав выделить более $1 миллиарда.
Они стремились к открытому сотрудничеству, обещая публично делиться патентами и результатами исследований. Первоначальная команда, в которую входили такие таланты, как Илья Суцкевер и Войцех Заремба, возлагала большие надежды, и первые исследования были воинственно открытыми и доступными.
2019 год стал поворотным для OpenAI: компания перешла на "кэппированную" коммерческую модель. Эта модель, ограничивающая прибыль 100-кратным объемом инвестиций, была направлена на привлечение большего количества средств и предложение долей компании сотрудникам. Вскоре последовали инвестиции Microsoft в размере $1 миллиарда, что подстегнуло амбиции по развитию и коммерциализации технологий OpenAI.
Тем временем генеративный ИИ захватил мир технологий, и влияние OpenAI начало расти. С момента своего экспериментального и новаторского зарождения компания была готова определить траекторию развития ИИ и его использование в обществе.
Уход Элона Маска из совета директоров OpenAI в 2018 году ознаменовал очередной поворот. Обеспокоенный отставанием от Google и конфликтом интересов с Tesla, Маск оставил после себя пустоту. Его первоначально обещанное финансирование в размере $1 миллиарда было сокращено до $100 миллионов, что усугубило финансовые трудности и подтолкнуло OpenAI к его коммерческой инкарнации.
Вливание капитала Microsoft в 2019 году стало еще одной вехой, проложившей путь к созданию таких революционных инструментов, как ChatGPT и DALL-E. Но это партнерство не осталось незамеченным.
Маск, выразив свое недовольство, поставил под сомнение законность и этичность такого преобразования.
"OpenAI создавался как открытый источник... чтобы служить противовесом Google, но теперь он превратился в закрытую компанию с максимальной прибылью, фактически контролируемую Microsoft. Совсем не то, что я задумал", - написал Маск в своем твиттере 17 февраля 2023 года.
OpenAI создавалась как некоммерческая компания с открытым исходным кодом (именно поэтому я назвал ее "Открытый" ИИ), чтобы служить противовесом Google, но теперь она превратилась в закрытую компанию с максимальной прибылью, фактически контролируемую Microsoft.
Это совсем не то, что я хотел сказать.
- Элон Маск (@elonmusk) 17 февраля 2023 года
Позже он сказал: "Я до сих пор не понимаю, как некоммерческая организация, которой я пожертвовал $100 миллионов, каким-то образом стала прибыльной компанией с рыночной капитализацией $30 миллиардов. Если это законно, почему все так не делают?".
Я до сих пор не понимаю, как некоммерческая организация, которой я пожертвовал ~$100M, каким-то образом превратилась в коммерческую компанию с рыночной капитализацией $30B. Если это законно, почему все так не делают?
- Элон Маск (@elonmusk) 15 марта 2023 года
К началу 2023 года стоимость OpenAI резко возросла, а в 2021 году появились сообщения о финансировании, которое удвоило бы ее стоимость до $29 миллиардов. Дальнейшие инвестиции Microsoft в размере $10 миллиардов закрепили ее влияние.
А потом у нас был Противоречия в руководстве OpenAI В результате чего генеральный директор Сэм Альтман был уволен и вновь принят на работу, а совет директоров компании был изменен, что, вероятно, означает снижение сопротивления целям компании, независимо от их предполагаемой безопасности.
Эта сага также показала, что совет директоров не смог сместить Альтмана, в значительной степени лишив его цели соблюдения основополагающих принципов компании - и защиты от небезопасного развития ИИ.
OpenAI закрывает доступ к отчетам и документам
Когда WIRED обратился к OpenAI с запросом, компания ответила сдержанно.
Нико Феликс, представитель компании, разъяснил текущую политику, заявив: "Мы предоставляем финансовую отчетность по запросу. OpenAI приводит свою практику в соответствие с отраслевыми стандартами, и с 2022 года это включает в себя отказ от публичного распространения дополнительных внутренних документов".
Wired также заявила, что доступ к политике конфликта интересов OpenAI мог бы дать представление о динамике власти между Альтманом и новым советом директоров, особенно учитывая его личные инвестиции в Стартапы, связанные с искусственным интеллектом, такие как Rain AI.
Несмотря на пересекающиеся интересы, Феликс уверяет, что сделки Альтмана прозрачны и хорошо управляемы: "Альтман прозрачен с советом директоров в отношении своих инвестиций и следует процессу управления потенциальными конфликтами".
Любые изменения в уставе компании, особенно те, которые были внесены во время взрывного увольнения и возвращения Альтмана, остаются нераскрытыми.
Уход компании от прозрачности, противоречия в сфере закупок, разлад в руководстве, корпоративные иски и партнерские отношения с Министерством обороны США свидетельствуют об отходе - или, скорее, резком отходе - от первоначальной этики.
