Компания OpenAI подписала первое в своем роде соглашение с правительством США о сотрудничестве в области исследований и оценки безопасности ИИ.
В четверг США. Институт безопасности искусственного интеллекта, входящая в состав Национального института стандартов и технологий (NIST), объявила о достижении соглашений с OpenAI и их конкурентом Anthropic.
Сделка состоялась в тот момент, когда компания, как сообщается, ведет переговоры о привлечении финансирования с ошеломляющей оценкой в $100 миллиардов. Это показывает, что, несмотря на замедление темпов развития, OpenAI по-прежнему стремится в будущее.
Партнерство позволит правительству получить внутренний доступ к основным новым моделям ИИ до и после их публичного выпуска, хотя пока трудно понять, во что именно это выльется.
Справедливости ради стоит отметить, что даже сами разработчики ИИ не до конца понимают, как работают их модели, поэтому выгода NIST может быть ограниченной. Тем не менее, это попытка усилить государственный надзор за секретными моделями ИИ, находящимися на переднем крае.
Мы рады, что достигли соглашения с US AI Safety Institute для предварительного тестирования наших будущих моделей.
По многим причинам мы считаем важным, чтобы это происходило на национальном уровне. US должен продолжать лидировать!
- Сэм Altman (@sama) 29 августа 2024 года
"Безопасный и надежный искусственный интеллект имеет решающее значение для положительного влияния технологии", - сказал Джейсон Квон, главный стратег OpenAI. "Мы считаем, что институт должен сыграть решающую роль в определении лидерства США в ответственном развитии искусственного интеллекта".
Элизабет Келли, директор Института безопасности искусственного интеллекта США, назвала эти сделки "важной вехой в нашей работе по ответственному управлению будущим искусственного интеллекта".
По условиям соглашения, институт будет предоставлять OpenAI отзывы о потенциальных улучшениях в области безопасности своих моделей, работая в тесном сотрудничестве с британским Институтом безопасности искусственного интеллекта, который также запрошенный доступ к внутреннему устройству моделей ИИ.
Эти соглашения были достигнуты давно в рамках усилий администрации Байдена по регулированию ИИ. Aпосле того, как Байден исполнительный приказПодписанная в октябре 2023 года, система управления искусственным интеллектом в США постепенно начинает работать, хотя некоторые утверждают, что прогресс оставляет желать лучшего.
Время заключения соглашения примечательно по двум причинам. Во-первых, это происходит в тот момент, когда OpenAI, по сообщениям, обсуждает привлечь новый раунд финансирования, которое оценит компанию в более чем $100 миллиардов.
Эта астрономическая цифра более чем в три раза превышает прошлогоднюю оценку в $29 миллиардов.
По словам источников, знакомых с вопросом, венчурная компания Thrive Capital возглавит раунд с инвестициями в размере $1 миллиарда. Технологический гигант Microsoft, который уже является крупнейшим спонсором OpenAI, также, как говорят, примет участие в финансировании.
Во-вторых, по слухам, OpenAI находится на пороге выпуска нового продукта, GPT -5, SearchGPTили другие итерации с кодовым названием "Проект "Клубника."
Проект Strawberry, первоначально названный Q*, предположительно сочетает в себе модель искусственного интеллекта и автономного агента, способного работать в Интернете.
Очень важно, что OpenAI, как сообщается, продемонстрировала Strawberry сотрудникам американских служб безопасности, что могло стать частью новой сделки с Институтом безопасности ИИ и NIST.
В последнее время OpenAI ведет себя довольно тихо. GPT-4o преподносился как большой прогресс, но его жемчужина - функция голосового чата - до сих пор не получила массового распространения. Причиной задержки OpenAI назвала безопасность и нормативные барьеры.
Может быть, OpenAI заключает это новое партнерство, чтобы избежать подобных проблем в будущем?
