CDAO и DoD организуют мероприятия по выявлению предвзятости в языковых моделях

31 января 2024 года

ИИ Министерства обороны

29 января 2024 года Главное управление цифровых технологий и искусственного интеллекта Министерства обороны США (CDAO) запустило учения AI Bias Bounty. 

Эти программы направлены на краудсорсинг для обнаружения ошибок в системах ИИ, с особым акцентом на большие языковые модели (LLM). 

Эта инициатива является частью более широких усилий CDAO по интеграции и оптимизации безопасного ИИ в рамках всего Министерства обороны.

Последствия неконтролируемой предвзятости ИИ имеют далеко идущие последствия, проявляясь в различных отраслях - от правоохранительных органов и финансовых услуг до здравоохранения и не только.

Экземпляры ИИ неправильно идентифицирует людей в преступлениях, отказ в несправедливом кредите и неправильная диагностика пациентов в медицинских учреждениях подчеркивают критический характер предвзятости в системах машинного обучения.

Во многих случаях предвзятые наборы данных внедряют предвзятость в системы машинного обучения. Например, безобидный на первый взгляд набор данных MIT Tiny Images содержал оскорбительные материалы. Совсем недавно в Набор данных LAION-5Bиспользуемый для создания таких моделей, как DALL-E, был признан содержащим материалы о сексуальном насилии над детьми.

Мэтью Джонсон, исполняющий обязанности начальника отдела ответственного искусственного интеллекта Министерства обороны (RAI), рассказал об инициативе CDAO"Команда RAI очень рада возглавить эти конкурсы по борьбе с предвзятостью ИИ, поскольку мы твердо намерены обеспечить безопасность, надежность, надежность и отсутствие предвзятости в системах ИИ, используемых Министерством, и в контекстах, в которых они работают".

Первый этап этой новаторской программы направлен на выявление и устранение неизвестных рисков, связанных с LLM, начиная с чат-ботов с открытым исходным кодом. 

Участники могут получать денежные вознаграждения на основе своего вклада, который оценивается ConductorAI-Bugcrowd и финансируется DoD.

Результаты могут стать основой для новых политик и рекомендаций. Крейг Мартелл, главный специалист по цифровым технологиям и искусственному интеллекту, отметил: "Учитывая то, что в настоящее время Министерство уделяет особое внимание рискам, связанным с LLM, CDAO активно следит за этой областью; результаты конкурса AI Bias Bounties могут оказать сильное влияние на будущую политику и внедрение ИИ в Министерстве обороны". 

Правительство США привлекло исследователей и хакеров, изучающих искусственный интеллект, к расследованию и проверке моделей, в том числе когда они одобрил сессию на Def Con хакерской конвенции в Лас-Вегасе.

Присоединяйтесь к будущему


ПОДПИСАТЬСЯ СЕГОДНЯ

Четко, лаконично, всесторонне. Получите представление о развитии искусственного интеллекта с помощью DailyAI

Сэм Джинс

Сэм - писатель в области науки и техники, работавший в различных AI-стартапах. Когда он не пишет, его можно найти за чтением медицинских журналов или копанием в коробках с виниловыми пластинками.

×

ЭКСКЛЮЗИВНЫЙ БЕСПЛАТНЫЙ PDF
Будьте впереди с DailyAI

Подпишитесь на нашу еженедельную рассылку и получите эксклюзивный доступ к последней электронной книге DailyAI: "Освоение инструментов искусственного интеллекта: Ваше руководство по повышению производительности в 2024 году".

* Подписываясь на нашу рассылку, вы принимаете наши Политика конфиденциальности и наш Условия и положения