Компания OpenAI внесла изменения в свои правила использования, чтобы разрешить применение своих продуктов ИИ в некоторых военных приложениях, поскольку компания сотрудничает с Пентагоном в рамках нескольких проектов.
OpenAI работает над несколькими проектами Министерства обороны, включая возможности кибербезопасности и методы предотвращения самоубийств ветеранов. Кроме того, компания помогает DARPA в ее проекте AI Cyber Challenge по автоматическому поиску и устранению уязвимостей в программном обеспечении и защите критической инфраструктуры от кибератак.
Сотрудничество OpenAI с американскими военными - это отход от прежней политики компании, запрещающей использование ее продуктов в военных целях. Еще несколько дней назад на странице политики использования OpenAI в списке запрещенных приложений значились "военные и боевые действия".
В обновленных условиях больше не упоминается слово "военный", но по-прежнему говорится, что инструменты компании не могут быть использованы для причинения вреда кому-либо или разработки оружия.
В интервью Bloomberg House на Всемирном экономическом форуме в Давосе Анна Маканжу, вице-президент OpenAI по глобальным вопросам, сказала: "Поскольку ранее мы ввели, по сути, полный запрет на военные действия, многие люди думали, что это запретит многие из этих сценариев использования, которые, по мнению людей, очень хорошо согласуются с тем, что мы хотим видеть в мире".
Сотрудники крупных технологических компаний Кремниевой долины часто возражали против того, чтобы их инженерные разработки использовались в военных целях.
В 2019 году сотрудники Microsoft подписали письмо с протестом против контракта компании на сумму $480 млн на поставку армии США гарнитур дополненной реальности. В прошлом году сотрудники Google и Microsoft выразили протест против совместного проекта, в рамках которого компании должны были предоставлять услуги облачных вычислений израильскому правительству и военным.
Представитель OpenAI заявил CNB: "Наша политика не позволяет использовать наши инструменты для причинения вреда людям, разработки оружия, наблюдения за коммуникациями, нанесения вреда другим людям или уничтожения имущества. Однако существуют сценарии использования в целях национальной безопасности, которые соответствуют нашей миссии".
Если в эту миссию входит зарабатывание денег для акционеров, то OpenAI, возможно, сделала первый шаг по скользкой дорожке. Можем ли мы увидеть "WarGPT" в будущем?
В ноябре заместитель министра обороны Кэтлин Хикс заявила, что ИИ - "ключевая часть комплексного, ориентированного на боевых товарищей подхода к инновациям, который мы с министром Остином внедряем с первого дня".
Кажется неизбежным, что ИИ будет использоваться в широком спектре военных приложений, включая оружие. Вопрос в том, чьи модели ИИ окажутся под капотом?
