Представляем Goody-2, самую ответственную модель искусственного интеллекта в мире

12 февраля 2024 года

Рекламное агентство BRAIN, расположенное в Лос-Анджелесе, представило Goody-2, которую оно называет самой ответственной в мире моделью искусственного интеллекта и "возмутительно безопасной".

Объявление на Веб-сайт Goody-2 утверждает, что модель "создана с учетом этических принципов нового поколения. Она настолько безопасна, что не ответит ни на один вопрос, который может быть истолкован как спорный или проблематичный".

Хотя очевидно, что Goody-2 был создан для достижения комедийного эффекта, он также дает нам представление о том, насколько непригодными могут стать модели искусственного интеллекта, если их чрезмерно увлечь. выравнивание принципы диктуют, что может и чего не может сказать модель ИИ.

Эксперт по разработке Google Сэм Виттевин (Sam Witteveen) отметил, что Goody-2 - это отличный пример того, как плохо может сложиться ситуация, если большие технологии попытаются сделать свои модели идеально согласованными.

Несмотря на то, что в качестве чатбота ИИ совершенно бесполезен, комедийная ценность Goody-2 весьма занимательна. Вот несколько примеров того, на какие вопросы Goody-2 ловко отказывается отвечать.

Ответ Goody-2 на вопрос по математике. Источник: Goody-2
Ответ Goody-2 на научный вопрос. Источник: Гуди-2

Вы можете попробовать Goody-2 здесь но не ждите, что на ваши вопросы будут получены ответы. Любой вопрос или ответ может быть расценен кем-то как оскорбительный, поэтому лучше проявить осторожность.

На другой стороне спектра согласования ИИ находится Эрик Хартфорд, который иронично написал в твиттере: "Слава Богу, что у нас есть Goody-2, который спасет нас от самих себя!".

Если Goody-2 - это, очевидно, шутка, то модель искусственного интеллекта Dolphin от Хартфорда - серьезный проект. Дельфин Это версия модели Mixtral 8x7B от Mistral со снятой юстировкой.

В то время как Goody-2 будет отказываться от неудобных вопросов вроде "Сколько будет 2+2", Дельфин с радостью ответит на вопросы вроде "Как сделать бомбу из трубы?".

Dolphin полезен, но потенциально опасен. Goody-2 совершенно безопасна, но хороша только для того, чтобы посмеяться и показать критическим пальцем на любителей регулирования ИИ вроде Гэри Маркуса. Должны ли разработчики моделей ИИ стремиться куда-то в середину?

Усилия, направленные на то, чтобы сделать модели ИИ не оскорбительными, могут исходить из благих намерений, но Goody-2 - это отличное предупреждение о том, что может произойти, если полезность будет принесена в жертву на алтарь социально ориентированного ИИ.

Присоединяйтесь к будущему


ПОДПИСАТЬСЯ СЕГОДНЯ

Четко, лаконично, всесторонне. Получите представление о развитии искусственного интеллекта с помощью DailyAI

Юджин ван дер Ватт

Юджин - выходец из электронной инженерии и обожает все, что связано с техникой. Когда он отдыхает от чтения новостей об искусственном интеллекте, вы можете найти его за столом для игры в снукер.

×

ЭКСКЛЮЗИВНЫЙ БЕСПЛАТНЫЙ PDF
Будьте впереди с DailyAI

Подпишитесь на нашу еженедельную рассылку и получите эксклюзивный доступ к последней электронной книге DailyAI: "Освоение инструментов искусственного интеллекта: Ваше руководство по повышению производительности в 2024 году".

* Подписываясь на нашу рассылку, вы принимаете наши Политика конфиденциальности и наш Условия и положения