Предприятия спешат воспользоваться преимуществами генеративного ИИ, но, как показывают опросы, это сопряжено с определенными рисками.
Согласно последним данным данные из BlackBerry75% предприятий запретили или собираются ограничить использование таких инструментов, как ChatGPT и другие платформы генеративного ИИ.
Исследование показало, что 61% организаций, рассматривающих такой шаг, считают, что ограничения могут быть постоянными или длительными.
В конференции приняли участие 2 000 руководителей ИТ-подразделений из США, Великобритании, Канады, Германии, Франции, Нидерландов, Японии и Австралии.
Руководители компаний ссылались на опасения, связанные с безопасностью данных, конфиденциальностью и потенциальным ущербом для репутации бренда.
Большинство (80%) считают, что разрешение или запрет на использование сотрудниками приложений для работы является прерогативой организации, а 74% также считают, что прямой запрет может быть чрезмерным.
Были и положительные результаты. Около 551ТП3Т признали, что ИИ повышает эффективность, 521ТП3Т поверили в его способность стимулировать инновации, а 511ТП3Т считают, что он может способствовать развитию творческих способностей. Еще В 81% увидели потенциальное применение в укреплении защиты кибербезопасности.
Правительство США недавно объявило о Проблема кибербезопасности для разработки приложений ИИ для укрепления национальной безопасности.
Директор по технологиям BlackBerry Шишир Сингх (Shishir Singh) так прокомментировал результаты исследования: "Запрет приложений генеративного ИИ на рабочем месте может привести к тому, что множество потенциальных преимуществ для бизнеса будут сведены на нет".
Он добавил: "По мере развития платформ и вступления в силу нормативных актов в организационные политики может быть внесена гибкость. Ключевым моментом будет наличие правильных инструментов для контроля, мониторинга и управления приложениями, используемыми на рабочем месте".
Исследование Gartner указывает на аналогичные риски, связанные с искусственным интеллектом, для предприятий
Недавно Исследование Gartner Опрос 249 руководителей высшего звена выявил результаты, схожие с исследованием BlackBerry, подчеркнув озабоченность вопросами безопасности, интеллектуальной собственности и чрезмерной зависимости от технологий сторонних производителей.
- Жизнеспособность сторонних производителей (67%): Руководители компаний высказывали опасения по поводу стабильности или надежности внешних партнеров или поставщиков ИИ. Если эти третьи стороны столкнутся с проблемами, это может иметь каскадные последствия для организаций, которые от них зависят.
- Доступность массового генеративного ИИ (66%): Распространение инструментов генеративного ИИ вызывает опасения, связанные с интеллектуальной собственностью, конфиденциальностью и кибербезопасностью.
- Неопределенность в финансовом планировании (62%): Организации могут столкнуться с проблемами в процессе финансового планирования, вызванными изменением экономических условий, изменениями в законодательстве или нестабильностью рынка.
- Риск концентрации облаков (62%): По мере того как предприятия все больше полагаются на облачные решения, возрастает риск, связанный с чрезмерной зависимостью от одного поставщика облачных услуг.
- Торговая напряженность в Китае (56%): Продолжение торговая напряженность с Китаем намек на возможные сбои в международной торговле, влияющие на цепочки поставок, тарифы и стабильность рынка.
Ран Сюй, директор по исследованиям практики рисков и аудита компании Gartner, отметил, что генеративный ИИ занял первое место в их ежеквартальном исследовании рисков.
Сюй заявил: "Это отражает как стремительный рост осведомленности общественности и использования инструментов генеративного ИИ, так и широту потенциальных вариантов использования и, соответственно, потенциальные риски, которые эти инструменты несут".
Инструменты искусственного интеллекта по-прежнему разрабатываются преимущественно одной и той же горсткой компаний, а значит, предприятия, создающие на их основе рабочие процессы, подвержены колебаниям производительности на рынке с низкой конкуренцией. Об этом свидетельствуют недавние споры вокруг качества продукции GPT-4, которая по сообщениям, отказался в последние месяцы.
OpenAI признала, что производительность снизилась на некоторых задачах, но пока не раскрывает технических деталей, почему.
Колебания производительности ИИ - плохая новость для компаний, создающих критически важные для бизнеса рабочие процессы на основе моделей, которые они не контролируют.
