ИИ с открытым исходным кодом, в частности модели Llama компании Meta, вызвали споры о том, насколько рискованно предоставлять мощные модели ИИ всем желающим.
На прошлой неделе группа протестующих собралась у офиса Meta в Сан-Франциско, осудив решение компании публично обнародовать свои модели искусственного интеллекта.
На одном из баннеров было написано: "Не открывайте судный день".
Информация о протесте была размещена на сайте Форум эффективного альтруизма и заявили следующее: "Передовые модели ИИ компании Meta в корне небезопасны... Прежде чем она выпустит еще более продвинутые модели - которые будут обладать еще более опасными возможностями - мы призываем Meta серьезно отнестись к ответственному выпуску и остановить необратимое распространение".
Протестующие также создали сайт здесь, который цитирует Цукерберг преуменьшает безопасность Последствия выпуска моделей с открытым исходным кодом.
Одним словом, такие известные компании, как OpenAI и Google, ограничивают доступ к своим большим языковым моделям (LLM) через API. Они являются закрытыми "черными ящиками", то есть общественность не может видеть, что происходит внутри модели - только ее входы и выходы.
В отличие от них, компания Meta сделала сенсацию, открыто предложив свои модели LLaMA сообществу исследователей ИИ. Это позволяет технически подкованным людям адаптировать и настраивать модели для раскрытия их полного потенциала, в отличие от закрытых ИИ, которые запрограммированы с защитными ограждениями.
Подход Meta к разработке искусственного интеллекта
Компания Meta играет несколько антагонистическую роль в развитии ИИ.
Пока Google, OpenAI, Microsoft и такие стартапы, как Anthropic и Inflection, спешат создать закрытые ИИ, хранящиеся под замком, Meta решила бросить свои модели с открытым исходным кодом в публичную сферу, как боевую гранату.
ИИ с открытым исходным кодом, конечно угрожает рыночным структурам Microsoft, OpenAI и т.д., от которых зависит монетизация их продуктов.
Модель Meta's Llama была знаменита тем, что Утечка на 4Chan до официального релиза, а вскоре компания пошла еще дальше, выпустив Llama 2.
Протестующие утверждают, что инициативы Meta с открытым исходным кодом символизируют "необратимое распространение" возможно опасной технологии. Однако другие категорически не согласны с этим, утверждая, что ИИ с открытым исходным кодом жизненно важен для демократизации технологии и завоевания доверия благодаря прозрачности.
Холли Элмор, возглавившая пятничную акцию протеста у здания Meta, подчеркнула, что как только весовые коэффициенты модели, влияющие на входные и выходные данные, становятся достоянием общественности, создатели теряют контроль. Модели с открытым исходным кодом могут быть изменены и перепроектированы с неэтичными или незаконными последствиями.
Элмор, ранее работавший в аналитическом центре Rethink Priorities, заявил: "Освобождение весов - опасная политика... Чем мощнее становятся модели, тем опаснее становится эта политика".
ИИ с открытым исходным кодом будет оставаться спорной темой, но оставлять технологию под контролем избранных, возможно, не самая лучшая альтернатива.
