29 января 2024 года Главное управление цифровых технологий и искусственного интеллекта Министерства обороны США (CDAO) запустило учения AI Bias Bounty.
Эти программы направлены на краудсорсинг для обнаружения ошибок в системах ИИ, с особым акцентом на большие языковые модели (LLM).
Эта инициатива является частью более широких усилий CDAO по интеграции и оптимизации безопасного ИИ в рамках всего Министерства обороны.
Последствия неконтролируемой предвзятости ИИ имеют далеко идущие последствия, проявляясь в различных отраслях - от правоохранительных органов и финансовых услуг до здравоохранения и не только.
Экземпляры ИИ неправильно идентифицирует людей в преступлениях, отказ в несправедливом кредите и неправильная диагностика пациентов в медицинских учреждениях подчеркивают критический характер предвзятости в системах машинного обучения.
Во многих случаях предвзятые наборы данных внедряют предвзятость в системы машинного обучения. Например, безобидный на первый взгляд набор данных MIT Tiny Images содержал оскорбительные материалы. Совсем недавно в Набор данных LAION-5Bиспользуемый для создания таких моделей, как DALL-E, был признан содержащим материалы о сексуальном насилии над детьми.
Мэтью Джонсон, исполняющий обязанности начальника отдела ответственного искусственного интеллекта Министерства обороны (RAI), рассказал об инициативе CDAO"Команда RAI очень рада возглавить эти конкурсы по борьбе с предвзятостью ИИ, поскольку мы твердо намерены обеспечить безопасность, надежность, надежность и отсутствие предвзятости в системах ИИ, используемых Министерством, и в контекстах, в которых они работают".
Первый этап этой новаторской программы направлен на выявление и устранение неизвестных рисков, связанных с LLM, начиная с чат-ботов с открытым исходным кодом.
Участники могут получать денежные вознаграждения на основе своего вклада, который оценивается ConductorAI-Bugcrowd и финансируется DoD.
Результаты могут стать основой для новых политик и рекомендаций. Крейг Мартелл, главный специалист по цифровым технологиям и искусственному интеллекту, отметил: "Учитывая то, что в настоящее время Министерство уделяет особое внимание рискам, связанным с LLM, CDAO активно следит за этой областью; результаты конкурса AI Bias Bounties могут оказать сильное влияние на будущую политику и внедрение ИИ в Министерстве обороны".
Правительство США привлекло исследователей и хакеров, изучающих искусственный интеллект, к расследованию и проверке моделей, в том числе когда они одобрил сессию на Def Con хакерской конвенции в Лас-Вегасе.
