Мустафа Сулейман: “Генеративный ИИ — это всего лишь этап”.
Мустафа Сулейман, сооснователь Google DeepMind и генеральный директор ИИ-стартапа Inflection AI, считает, что будущее индустрии - за интерактивными ботами.
"Генеративный ИИ - это только этап", - сказал Сулейман в своем выступлении. недавнее интервью с MIT Technology Review.
"На очереди - интерактивный ИИ: боты, которые могут выполнять поставленные перед ними задачи, обращаясь к другому программному обеспечению и другим людям, чтобы добиться результата".
По мнению Сулеймана, этот переход означает "глубокий момент в истории технологий", который многие люди могут недооценивать - эта тема обсуждается в его новой книге Грядущая волна.
Грядущие интерактивные агенты ИИ будут способны инициировать действия автономно, если это будет разрешено, освобождая модели от статичных "контейнеров", таких как веб-браузеры.
Собственное предприятие Сулеймана, Inflection AI, уже добилось успехов в разработке интерактивного искусственного интеллекта, получив более $1,5 миллиарда инвестиций. В настоящее время Inflection занимается созданием одного из крупнейших в мире стеков для обучения искусственному интеллекту, состоящего из 22 000 графических процессоров Nvidia H100.
Текущий продукт компании Inflection - Pi, чат-бот, предназначенный для ведения бесед и предоставления персональных рекомендаций.
В отличие от существующих разговорных ИИ, таких как ChatGPT, Pi стремится превратиться в инструмент, способный выполнять задачи автономно, воплощая в себе видение будущего, которое поддерживает Сулейман.
Этика в эпоху интерактивного ИИ
В ходе интервью Сулейман также затронул сложные этические вопросы, связанные с подобными автономными действиями.
"Безопасность и контроль были нашими главными приоритетами", - подчеркнул он. LКак и большинство публичных чат-ботов, Pi имеет встроенные ограничения для предотвращения вредных или непреднамеренных действий.
Бот не будет участвовать в некоторых типах разговоров, например, в романтических ролевых играх, сосредоточившись на содержательном и безопасном взаимодействии.
Некоторые ИИ, созданные для межличностного общения, в частности Replika, попали под огонь за то, что они искажают поведение чат-ботов. Replika получила репутацию сексуально озабоченного пользователя и даже, кажется, поощряла кого-то к убийство королевы Елизаветы II.
Хотя идея автономного выполнения задач агентами ИИ может показаться убедительной, она вызывает новые опасения по поводу контроля и надзора.
Сулейман признает эту дилемму, заявляя, что человеку необходимо оставаться в роли водителя.
"Мы устанавливаем границы, а ИИ действует в рамках этих параметров", - уточнил он, предположив, что для обеспечения соблюдения этих границ могут потребоваться вмешательство независимых институтов или даже правительств.
Поскольку мы стоим на пороге того, что, по мнению Сулеймана, является глубоким сдвигом в области ИИ, ближайшие годы покажут, сможет ли интерактивный ИИ воплотить в жизнь его видение.
