As empresas estão a apressar-se a tirar partido da IA generativa, mas os inquéritos revelam que isso acarreta riscos.
De acordo com os recentes dados da BlackBerryum número impressionante de 75% de empresas está a proibir ou a ponderar restringir a utilização de ferramentas como o ChatGPT e outras plataformas de IA generativa.
A pesquisa indicou que 61% das organizações que contemplam essa mudança acreditam que as restrições podem ser permanentes ou duradouras.
Participaram 2.000 decisores de TI dos EUA, Reino Unido, Canadá, Alemanha, França, Países Baixos, Japão e Austrália.
Os executivos referiram preocupações relacionadas com a segurança dos dados, a privacidade e os potenciais danos para a reputação da marca.
Uma clara maioria (80%) considerou que era uma prerrogativa da organização permitir ou recusar as aplicações que os empregados utilizam para trabalhar, e 74% também consideraram que a proibição total poderia ser excessiva.
Também houve conclusões positivas. Cerca de 55% reconheceram os ganhos de eficiência da IA, 52% acreditaram no seu poder de promover a inovação e 51% consideraram que poderia aumentar a criatividade. Mais O 81% viu a sua potencial utilização para reforçar as defesas de cibersegurança.
O governo dos EUA anunciou recentemente um desafio da cibersegurança para conceber aplicações de IA para reforçar a segurança nacional.
O Diretor de Tecnologia da BlackBerry, Shishir Singh, comentou os resultados: "Proibir aplicações de IA generativa no local de trabalho pode significar que uma grande quantidade de potenciais benefícios comerciais são anulados".
E acrescentou: "À medida que as plataformas amadurecem e os regulamentos entram em vigor, pode ser introduzida flexibilidade nas políticas organizacionais. A chave estará em ter as ferramentas certas para a visibilidade, monitorização e gestão das aplicações utilizadas no local de trabalho."
O estudo da Gartner destaca riscos semelhantes relacionados com a IA para as empresas
Um recente Inquérito da Gartner de 249 executivos seniores revelou conclusões semelhantes às da pesquisa da BlackBerry, destacando as preocupações com a segurança, a propriedade intelectual e a dependência excessiva de tecnologia de terceiros.
- Viabilidade de terceiros (67%): Os executivos referiram preocupações sobre a estabilidade ou fiabilidade dos parceiros ou fornecedores externos de IA. Se esses terceiros enfrentarem desafios, isso poderá ter efeitos em cascata nas organizações que dependem deles.
- Disponibilidade de IA generativa em massa (66%): A proliferação de ferramentas de IA generativa suscita preocupações em torno da propriedade intelectual, da privacidade e da cibersegurança.
- Incerteza do planeamento financeiro (62%): As organizações podem enfrentar desafios nos seus processos de planeamento financeiro causados por alterações das condições económicas, alterações regulamentares ou volatilidade do mercado.
- Risco de concentração de nuvens (62%): Como as empresas dependem cada vez mais de soluções baseadas na nuvem, há um risco crescente associado à dependência excessiva de um único fornecedor de serviços de nuvem.
- Tensões comerciais na China (56%): Em curso tensões comerciais com a China apontam para potenciais perturbações no comércio internacional, que afectam as cadeias de abastecimento, os direitos aduaneiros e a estabilidade do mercado.
Ran Xu, diretor de investigação da prática de risco e auditoria da Gartner, salientou que a IA generativa disparou no seu inquérito trimestral sobre riscos.
Xu declarou: "Isto reflecte o rápido crescimento da sensibilização do público e da utilização de ferramentas de IA generativa, bem como a amplitude dos potenciais casos de utilização e, por conseguinte, os potenciais riscos que estas ferramentas acarretam".
As ferramentas de IA ainda são predominantemente desenvolvidas pelo mesmo punhado de empresas, o que significa que as empresas que criam fluxos de trabalho em torno delas são vulneráveis a flutuações de desempenho num mercado de baixa concorrência. Este facto é evidente nos recentes debates em torno da qualidade dos resultados da GPT-4, que tem alegadamente recusou nos últimos meses.
A OpenAI admitiu que o desempenho baixou em algumas tarefas, mas ainda não revelou os pormenores técnicos da razão.
As flutuações no desempenho da IA são más notícias para as empresas que criam fluxos de trabalho críticos para o negócio em torno de modelos que não controlam.
