Элон Маск подал иск против OpenAI и ее сооснователей Сэма Альтмана и Грега Брокмана за то, что они якобы нарушили соглашение, подписанное при создании OpenAI.
Иск предлагает интересный взгляд на генезис компании, которая стала лидером в разработке современных моделей искусственного интеллекта. Он связан с двумя основными целями OpenAI, которые были зафиксированы в "Учредительном договоре" компании.
Трое мужчин договорились, что OpenAI "будет некоммерческой организацией, разрабатывающей AGI на благо человечества, а не коммерческой компанией, стремящейся к максимизации прибыли акционеров".
Они также согласились, что OpenAI "будет иметь открытый исходный код, уравновешивать только противоположные соображения безопасности, и не будет держать свою технологию в закрытом и секретном состоянии по собственным коммерческим причинам".
Маск опасался и до сих пор опасается, что прибыльная погоня за AGI и эксклюзивный контроль над технологией со стороны таких компаний, как Google, будут губительны для человеческого общества.
Идея соглашения заключалась в том, что OpenAI создаст открытый и безопасный AGI, который будет свободно доступен для человечества, тем самым устраняя риск использования технологий коммерческими компаниями во вред человечеству.
Нарушение
На сегодняшний день бесспорным лидером среди моделей ИИ является GPT-4 от OpenAI, но в ней нет ничего даже отдаленно открытого, несмотря на название компании которая его разработала. В отличие от GPT-3, OpenAI даже не выпустила технический документ с подробным описанием работы GPT-4.
Хотя в учредительном договоре говорилось, что компания будет использовать технологии с открытым исходным кодом, только OpenAI и, возможно, Microsoft имеют доступ к коду, весам и данным обучения GPT-4.
Содержание такой компании, как OpenAI, стоит денег, поэтому неудивительно, что она взимает плату с пользователей за использование своих продуктов. Но эксклюзивное лицензионное соглашение с Microsoft означает, что ее модели теперь используются для извлечения прибыли для Big Tech. Это прямо противоположно принципам, с которыми, по словам Маска, они все согласились.
В иске утверждается, что "OpenAI, Inc. была превращена в дочернюю компанию с закрытым исходным кодом де-факто крупнейшей технологической компании в мире: Microsoft. Под руководством нового совета директоров компания не просто разрабатывает, а фактически совершенствует AGI для получения максимальной прибыли для Microsoft, а не для блага человечества".
Есть ли у нас AGI?
Лицензионное соглашение Microsoft распространяется только на технологию OpenAI, предшествующую AGI. Если будет установлено, что модель OpenAI достигла уровня AGI, то лицензионное соглашение не позволит Microsoft получить к ней доступ.
В иске Маска содержится смелое утверждение, что "GPT-4 - это алгоритм AGI", поэтому Microsoft не должна иметь к нему доступ. В иске содержится просьба, чтобы суд постановил, что это правда. Я не совсем понимаю, как судья и присяжные должны это сделать в отсутствие принятого в отрасли определения того, что именно представляет собой AGI.
Иск также подтверждает слухи о том, над чем работали инженеры OpenAI. В иске утверждается, что "OpenAI в настоящее время разрабатывает модель, известную как Q* (звезда Q) который еще сильнее претендует на AGI".
В конечном счете, решение принимает совет OpenAI. что квалифицируется как AGI в соответствии с лицензионным соглашением Microsoft. После Увольнение Альтмана, повторный наем и перестановка в совете директоровНо теперь это решение зависит от новых членов совета директоров, которые были назначены с благословения Microsoft.
Именно поэтому Илья Суцкевер был выведен из состава совета директоров и тихонько засел в какой-то подсобке? Кто-нибудь слышал о нем в течение нескольких месяцев? Что видел Илья?
Не ждите, что новое правление поспешит заявить о достижении AGI, даже если это и так. прямо заявленная цель компании.
Страхи ИИ
Одним из заявленных мотивов иска являются опасения Маска по поводу попадания AGI в чужие руки.
В иске рассказывается о том, как Маск встретился с соучредителем DeepMind Демис Хассабис в 2012 году, чтобы обсудить эти опасения, некоторые из которых Хассабис разделял.
В нем также говорится, что "после встречи с г-ном Хассабисом и инвесторами DeepMind один из инвесторов заметил, что лучшее, что он мог бы сделать для человеческой расы, это застрелить г-на Хассабиса тогда и там".
Когда Маск обсуждал свои опасения с тогдашним генеральным директором Google Ларри Пейджем, Пейдж сказал, что сверхразумный ИИ, заменивший человека, будет просто "следующим этапом эволюции", и заявил, что Маск "спекулирует" своими взглядами в пользу человека.
Маск слишком драматизирует ситуацию, или нам стоит беспокоиться?
Иск стоит прочитать, если вы хотите взглянуть на то, как большая часть индустрии достигла своего нынешнего положения. Однако дело вряд ли разрешится в ближайшее время.
OpenAI вполне может подтвердить опасения Маска по поводу ИИ и использовать это как основную причину отказа от выпуска своих моделей с открытым исходным кодом. Аргументировать стремление компании к прибыли может оказаться более сложной задачей для OpenAI. очень занятая юридическая команда.
