Google, Microsoft, Anthropic и OpenAI объявили о создании Форума пограничных моделей (Frontier Model Forum) - отраслевого коллектива, призванного защищать будущее "пограничных" моделей ИИ.
Форум Frontier Model Forum призван содействовать позитивному развитию ИИ, расширению исследований в области безопасности, выявлению передового опыта и созданию совместного центра для общения с общественностью и заинтересованными сторонами.
В блогах Google и Microsoft подчеркивается, что в форуме могут участвовать и другие разработчики ИИ, но в число его основателей входят стартапы OpenAI и Anthropic, поддерживаемые Google и Microsoft.
О межотраслевом сотрудничестве в области ИИ говорили на протяжении всего года.
Это одно из первых конкретных доказательств того, что Microsoft и Google, по крайней мере, будут работать над ИИ вместе - будет интересно посмотреть, присоединятся ли к ним Meta, Amazon, Inflection и другие.
"Пограничные модели" - термин, придуманный Форумом, - определяют крупномасштабные модели машинного обучения, которые затмевают возможности существующих моделей. Способные выполнять широкий спектр задач, эти пограничные модели открыли новые рубежи для технологических инноваций, отсюда и название.
Модели Frontier можно назвать "агентами-генералистами", способными выполнять многофункциональные и мультимодальные задачи в рамках различных дисциплин.
Объявление о создании Форума пограничных моделей происходит одновременно с усилением давления на компании, занимающиеся разработкой искусственного интеллекта, с целью их саморегулирования, в том числе рамки, объявленные Белым домом с которым уже согласились 7 ведущих компаний в области ИИ: Google, Anthropic, Microsoft, Amazon, OpenAI, Meta и Inflection.
Что будет делать Frontier Model Forum?
A Сообщение в блоге Microsoft Наметила 4 ключевых направления исследований для Форума:
- Продвижение исследований безопасности ИИh: Форум намерен содействовать ответственному развитию передовых моделей, минимизировать потенциальные риски и способствовать проведению независимых стандартизированных оценок возможностей и безопасности ИИ.
- Определение лучших практик: Нацелен на изложение и распространение ответственной практики разработки и внедрения передовых моделей, а также на содействие пониманию общественностью природы, возможностей, ограничений и последствий технологии ИИ.
- Укрепление сотрудничества: Члены организации стремятся поделиться знаниями о рисках доверия и безопасности с политиками, учеными, гражданским обществом и другими компаниями отрасли.
- Решение социальных проблем: Форум поддерживает разработку приложений ИИ для решения ряда важнейших проблем общества, таких как изменение климата, раннее выявление и профилактика рака и угрозы кибербезопасности.
В ближайшие месяцы Frontier Model Forum создаст Консультативный совет, который будет определять стратегию и приоритеты. Рабочая группа и исполнительный совет создадут важнейшие институциональные механизмы, включая устав, управление и финансирование.
В ближайшие недели Форум также намерен провести консультации с гражданским обществом и правительствами по поводу дизайна Форума и возможных путей сотрудничества. Это включает в себя поддержку многосторонних инициатив, таких как Хиросимский процесс G7, работа ОЭСР по рискам ИИ и Совет по торговле и технологиям США-ЕС.
Лидеры отрасли высказывают свое мнение
Руководители и исследователи всех четырех нынешних членов Форума заявили о своем намерении совместно работать над созданием будущего ИИ.
Кент Уокер, президент по глобальным вопросам Google и Alphabet, сказал: "Мы рады работать вместе с другими ведущими компаниями, обмениваясь техническим опытом для продвижения ответственных инноваций в области ИИ. Взаимодействие компаний, правительств и гражданского общества будет иметь большое значение для реализации обещания, что ИИ принесет пользу всем".
Брэд Смит, вице-председатель и президент Microsoft, поддержал мнение Уокера. Он подчеркнул ответственность компаний, возглавляющих разработку ИИ, сказав: "Компании, создающие технологии ИИ, обязаны обеспечить их безопасность, надежность и контроль со стороны человека. Эта инициатива - важнейший шаг к объединению усилий технологического сектора в ответственном продвижении ИИ и решении проблем, чтобы он приносил пользу всему человечеству".
Анна Маканью, вице-президент по глобальным вопросам OpenAI, подчеркнула баланс между преимуществами и необходимым надзором за передовым ИИ, заявив: "Передовые технологии ИИ способны принести огромную пользу обществу, но для реализации этого потенциала необходим надзор и управление. Жизненно важно, чтобы компании, занимающиеся разработкой ИИ, особенно те, которые работают над самыми мощными моделями, пришли к единому мнению и разработали продуманные и адаптируемые методы обеспечения безопасности, чтобы мощные инструменты ИИ приносили как можно больше пользы. Это срочная работа, и данный форум располагает всеми возможностями для того, чтобы быстро принять меры по улучшению состояния безопасности ИИ".
Дарио Амодеи, генеральный директор компании Anthropic, подтвердил потенциал ИИ в изменении мира, заявив: "Anthropic верит, что ИИ способен кардинально изменить устройство мира. Мы рады сотрудничать с промышленностью, гражданским обществом, правительством и научными кругами, чтобы способствовать безопасному и ответственному развитию этой технологии". Форум пограничных моделей будет играть важную роль в координации передового опыта и обмене исследованиями в области безопасности пограничного ИИ".
Технологические компании, похоже, закладывают основу для новой эры чрезвычайно интеллектуальных ИИ, и дело движется быстро, ведь только в начале этого года политики из ЕС и США начали поощрять немедленное сотрудничество в отрасли.
