Företagen skyndar sig att dra nytta av generativ AI, men undersökningar visar att detta medför risker.
Enligt nyligen publicerade data från BlackBerryär det hela 75% av företagen som antingen förbjuder eller överväger att begränsa användningen av verktyg som ChatGPT och andra generativa AI-plattformar.
Undersökningen visade att 61% av de organisationer som överväger en sådan åtgärd tror att restriktionerna kan bli permanenta eller långvariga.
2.000 IT-beslutsfattare från USA, Storbritannien, Kanada, Tyskland, Frankrike, Nederländerna, Japan och Australien deltog.
Cheferna nämnde oro kring datasäkerhet, integritet och den potentiella skadan på varumärkets rykte.
En klar majoritet (80%) ansåg att det var en organisations rättighet att tillåta eller neka vilka applikationer som anställda använder i arbetet, och 74% ansåg också att direkta förbud kan vara alltför långtgående.
Det fanns också positiva resultat. Cirka 55% bekräftade AI:s effektivitetsvinster, 52% trodde på dess förmåga att främja innovation och 51% ansåg att den kunde öka kreativiteten. Ytterligare 81% såg dess potentiella användning för att förstärka försvaret av cybersäkerheten.
Den amerikanska regeringen tillkännagav nyligen en utmaning inom cybersäkerhet att utforma AI-tillämpningar för att stärka den nationella säkerheten.
Shishir Singh, Chief Technology Officer på BlackBerry, kommenterade resultaten: "Att förbjuda generativa AI-applikationer på arbetsplatsen kan innebära att en mängd potentiella affärsfördelar går förlorade."
Han tillade: "I takt med att plattformarna mognar och regleringarna träder i kraft kan flexibilitet införas i organisationens policyer. Nyckeln är att ha rätt verktyg på plats för insyn, övervakning och hantering av applikationer som används på arbetsplatsen."
Gartner-undersökning visar på liknande AI-relaterade risker för företag
En ny Gartner-undersökning av 249 ledande befattningshavare avslöjade liknande resultat som BlackBerrys forskning, och belyste oro kring säkerhet, immateriella rättigheter och överdriven tillit till teknik från tredje part.
- Livskraft från tredje part (67%): Cheferna uttryckte oro över stabiliteten eller tillförlitligheten hos externa AI-partners eller leverantörer. Om dessa tredje parter står inför utmaningar kan det få kaskadeffekter på de organisationer som är beroende av dem.
- Massgenerativ AI-tillgänglighet (66%): Spridningen av generativa AI-verktyg ger upphov till oro kring immateriella rättigheter, integritet och cybersäkerhet.
- Osäkerhet i samband med finansiell planering (62%): Organisationer kan ställas inför utmaningar i sina finansiella planeringsprocesser på grund av förändrade ekonomiska förhållanden, regeländringar eller marknadsvolatilitet.
- Risk för koncentration av moln (62%): I takt med att företag i allt högre grad förlitar sig på molnbaserade lösningar ökar risken för att bli alltför beroende av en enda molnleverantör.
- Handelsspänningar i Kina (56%): Pågående handelspolitiska spänningar med Kina en antydan om potentiella störningar i den internationella handeln, som påverkar leveranskedjor, tullar och marknadsstabilitet.
Ran Xu, forskningschef för Gartners risk- och revisionsavdelning, framhöll att generativ AI ökade i deras kvartalsvisa riskundersökning.
Xu konstaterade: "Detta återspeglar både den snabba ökningen av allmänhetens medvetenhet och användningen av generativa AI-verktyg, liksom bredden av potentiella användningsfall och därmed potentiella risker som dessa verktyg medför."
AI-verktyg utvecklas fortfarande till övervägande del av samma handfull företag, vilket innebär att företag som bygger arbetsflöden kring dem är sårbara för prestandafluktuationer på en marknad med låg konkurrens. Detta är tydligt i de senaste debatterna kring GPT-4:s utskriftskvalitet, som har enligt uppgift avböjt under de senaste månaderna.
OpenAI medgav att prestandan hade sjunkit på vissa uppgifter, men har ännu inte avslöjat de tekniska detaljerna om varför.
Fluktuationer i AI-prestanda är dåliga nyheter för företag som bygger affärskritiska arbetsflöden kring modeller som de inte kan kontrollera.
