Anthropic, стартап в области искусственного интеллекта, основанный бывшими руководителями компании OpenAI, представил свою новую большую языковую модель (LLM) Claude 2.
Доступная в виде веб-бета-версии в США и Великобритании, а также через платный API, новая модель может похвастаться улучшенной производительностью и емкостью по сравнению со своей предшественницей.
Claude 2 - это эволюция Claude 1.3, способная искать документы, обобщать контент, писать, кодировать и отвечать на вопросы. Он похож на другие LLM, такие как ChatGPT, но принимает вложения, позволяя пользователям загружать файлы, а ИИ анализировать и использовать их.
Claude 2 превосходит 1.3 в нескольких областях. Например, он показывает более высокие результаты в различных тестах, включая адвокатский экзамен и вопросы с множественным выбором на экзамене на получение медицинской лицензии США. Он также превосходит своего предшественника в решении задач по математике и кодированию, включая тест Codex Human Level Python на кодирование.
Руководитель отдела маркетинга компании Anthropic Сэнди Банерджи рассказывает об этих усовершенствованиях: "Мы работали над улучшением рассуждений и самосознания модели, чтобы она лучше понимала: "Вот как мне нравится выполнять инструкции", "Я могу обрабатывать многошаговые инструкции", а также лучше осознавала свои ограничения".
Обучающие данные для Claude 2, собранные с веб-сайтов, лицензированных наборов данных от третьих лиц и пользовательских данных начала 2023 года, более свежие, чем в Claude 1.3. Однако в конечном итоге модели похожи - Банерджи признает, что Claude 2 - это оптимизированная версия Claude 1.3.
Как и другие магистры, Клод далеко не безошибочен. TechCrunch говорит ИИ был подвергнут манипуляциям, чтобы придумать названия для несуществующих химикатов и предложить сомнительные инструкции по производству оружейного урана, среди прочего. Однако, Антропология утверждает, что Claude 2 "в 2 раза лучше" обеспечивает "безвредные" ответы, чем его предшественник.
Банерджи заявил: "[Наша] внутренняя оценка "красной команды" оценивает наши модели на очень большом репрезентативном наборе вредных враждебных подсказок", "и мы делаем это с помощью комбинации автоматизированных тестов и ручных проверок". Это важно для Anthropic, поскольку нейтральность модели является центральным элементом маркетинговых усилий компании.
Антроп использует особую технику, которая называется 'конституционный искусственный интеллект," который наполняет модели типа Claude 2 конкретными значениями, определенными "конституцией". Цель состоит в том, чтобы сделать поведение модели более понятным и скорректировать его по мере необходимости.
Цель Anthropic - создать "алгоритм нового поколения для самообучения ИИ", и Claude 2 - лишь один из шагов на пути к этой цели.
Банерджи заключил: "Мы все еще работаем над нашим подходом". "Мы должны быть уверены, что в итоге модель окажется такой же безобидной и полезной, как и предыдущая итерация".
Что такое Клод?
Claude - это ИИ-помощник, разработанный стартапом Anthropic, поддерживаемым Google и состоящим из нескольких бывших исследователей OpenAI. Он призван быть "полезным, честным и безобидным" и доступен через интерфейс чата и API.
Клод может помочь с широким спектром задач, включая составление резюме, творческое и совместное письмо, ответы на вопросы и кодирование.
Claude внедрили несколько компаний, в том числе Notion, Quora и DuckDuckGo. Он был использован для улучшения приложения Quora AI Chat, Poe, и интегрирован в приложение для повышения производительности Notion.
Среди других партнеров - Robin AI, юридическая компания, которая использует Claude для понимания и редактирования сложных юридических текстов, и AssemblyAI, которая использует Claude для расшифровки и понимания аудиоданных в масштабе.
Способность Claude работать с файлами потенциально лучше подходит для некоторых видов использования, основанных на производительности, по сравнению с такими конкурентами, как ChatGPT.
Пользователи в США и Великобритании могут сами оценить это, попробовав веб-бета-версию.
