Илья Суцкевер, соучредитель и бывший главный научный сотрудник OpenAI, объявил о запуске своего нового предприятия - Safe Superintelligence Inc. (SSI).
Вместе с соучредителями Дэниелом Гроссом из Y Combinator и бывшим инженером OpenAI Дэниелом Леви, Суцкевер стремится решить самую важную, по их мнению, проблему в области ИИ: разработать безопасную и мощную сверхразумную систему ИИ.
Суцкевер считает, что суперинтеллект - расплывчатый термин, обозначающий искусственный интеллект, который соответствует или превосходит человеческий, - станет возможным в течение десяти лет.
Сайт заявление компанииВ статье, опубликованной Суцкевером на сайте X, говорится: "Сверхразум в пределах досягаемости. Создание безопасного суперинтеллекта (SSI) - самая важная техническая проблема нашего времени. Мы открыли первую в мире лабораторию SSI с одной целью и одним продуктом: безопасным суперинтеллектом".
Я открываю новую компанию: https://t.co/BG3K3SI3A1
- Илья Суцкевер (@ilyasut) 19 июня 2024 года
Основатели называют SSI не только своей миссией, но и названием, и всей дорожной картой продукта.
"SSI - это наша миссия, наше название и вся дорожная карта наших продуктов, потому что это наша единственная цель. Наша команда, инвесторы и бизнес-модель направлены на достижение SSI", - говорится в заявлении.
Антитеза OpenAI?
Хотя Суцкевер и генеральный директор OpenAI Сэм Альтман публично выражали взаимное уважение, последние события указывают на скрытую напряженность.
Суцкевер сыграл важную роль в попытка сместить AltmanВпоследствии он заявил, что сожалеет об этом. Суцкевер официально подал в отставку в мае, сохраняя низкий уровень публичности, в результате чего зрители задавались вопросом о его местонахождении.
Спустя почти десять лет я принял решение уйти. OpenAI. Траектория развития компании была просто чудесной, и я уверен, что OpenAI под руководством @sama, @gdb, @miramurati и теперь, под...
- Илья Суцкевер (@ilyasut) 14 мая 2024 года
Этот инцидент и уход из OpenAI других ключевых исследователей, сославшихся на проблемы с безопасностью, заставляет задуматься о приоритетах и направлении развития компании.
Команда OpenAI, которой поручено привести ИИ в соответствие с человеческими ценностями и преимуществами, была "суперсогласованной". практически демонтирован после того, как Суцкевер и его коллега Ян Лейке покинули компанию в этом году.
Решение Суцкевера об уходе, по-видимому, связано с его желанием заняться проектом, который в большей степени соответствует его видению будущего развития ИИ - видению, в котором OpenAI, похоже, терпит неудачу, поскольку дрейфует от своего основополагающие принципы.
ИИ, ориентированный на безопасность
Риски, связанные с искусственным интеллектом, вызывают жаркие споры.
В то время как человечество испытывает первобытный страх перед искусственными системами, которые более интеллектуальны, чем мы, что совершенно справедливо, не все исследователи ИИ считают, что это возможно в ближайшем будущем.
Однако важно то, что пренебрежение рисками сейчас может оказаться губительным в будущем.
SSI намерена заниматься безопасностью одновременно с развитием искусственного интеллекта: "Мы подходим к безопасности и возможностям в тандеме, как к техническим проблемам, которые должны быть решены с помощью революционных инженерных и научных прорывов. Мы планируем развивать возможности как можно быстрее, при этом следя за тем, чтобы безопасность всегда оставалась впереди", - объясняют основатели.
Мы будем добиваться безопасного суперинтеллекта прямым путем, с одним фокусом, одной целью и одним продуктом. Мы сделаем это с помощью революционных прорывов, произведенных небольшой командой трещин. Присоединяйтесь к нам: https://t.co/oYL0EcVED2
- Илья Суцкевер (@ilyasut) 19 июня 2024 года
Такой подход позволяет SSI "спокойно масштабироваться", не отвлекаясь на накладные расходы руководства, циклы производства и краткосрочное коммерческое давление.
"Мы не отвлекаемся на накладные расходы руководства или циклы выпуска продукции, а наша бизнес-модель означает, что безопасность, надежность и прогресс изолированы от краткосрочного коммерческого давления", - подчеркивается в заявлении.
Соберите команду мечты
Для достижения поставленных целей SSI собирает "стройную и слаженную команду лучших в мире инженеров и исследователей, которые сосредоточатся на SSI и ни на чем другом".
"Мы - американская компания с офисами в Пало-Альто и Тель-Авиве, где у нас есть глубокие корни и возможность нанимать лучших технических специалистов", - отмечается в заявлении.
"Если это вы, то мы предлагаем вам возможность заняться делом всей вашей жизни и помочь решить самую важную техническую задачу нашего времени".
С появлением SSI еще один игрок присоединяется к постоянно расширяющейся области искусственного интеллекта.
Будет очень интересно посмотреть, кто присоединится к SSI, и особенно если туда перейдут талантливые специалисты из OpenAI.
