Virksomheter skynder seg å dra nytte av generativ AI, men undersøkelser viser at dette er forbundet med risiko.
Ifølge en nylig publisert data fra BlackBerryer det hele 75% av virksomhetene som enten forbyr eller vurderer å begrense bruken av verktøy som ChatGPT og andre generative AI-plattformer.
Undersøkelsen viste at 61% av organisasjonene som vurderer en slik flytting, tror at restriksjonene kan bli permanente eller langvarige.
2000 IT-beslutningstakere fra USA, Storbritannia, Canada, Tyskland, Frankrike, Nederland, Japan og Australia deltok.
Ledere nevnte bekymringer knyttet til datasikkerhet, personvern og potensiell skade på merkevarens omdømme.
Et klart flertall (80%) mente at det var organisasjonens privilegium å tillate eller nekte hvilke applikasjoner de ansatte bruker i arbeidet, og 74% mente også at direkte forbud kunne være for vidtrekkende.
Det var også positive funn. Omtrent 55% anerkjente AIs effektivitetsgevinster, 52% trodde på dens evne til å fremme innovasjon, og 51% mente at den kunne øke kreativiteten. Ytterligere 81% så potensialet i å styrke forsvaret av cybersikkerheten.
Den amerikanske regjeringen kunngjorde nylig en cybersikkerhetsutfordring for å utforme AI-applikasjoner for å styrke nasjonal sikkerhet.
BlackBerrys teknologidirektør, Shishir Singh, kommenterte funnene slik: "Å forby generative AI-applikasjoner på arbeidsplassen kan bety at et vell av potensielle forretningsfordeler blir kvalt."
Han legger til: "Etter hvert som plattformene modnes og regelverket trer i kraft, kan det innføres fleksibilitet i organisasjonens retningslinjer. Nøkkelen ligger i å ha de riktige verktøyene på plass for innsyn, overvåking og administrasjon av applikasjoner som brukes på arbeidsplassen."
Gartner-undersøkelser fremhever lignende AI-relaterte risikoer for bedrifter
En nylig Gartner-undersøkelse av 249 toppledere avslørte lignende funn som BlackBerrys undersøkelse, og fremhevet bekymringer rundt sikkerhet, immaterielle rettigheter og overdreven avhengighet av tredjepartsteknologi.
- Levedyktighet fra tredjepart (67%): Ledere uttrykte bekymring for stabiliteten eller påliteligheten til eksterne AI-partnere eller -leverandører. Hvis disse tredjepartene møter utfordringer, kan det få ringvirkninger for organisasjonene som er avhengige av dem.
- Massegenerativ AI-tilgjengelighet (66%): Utbredelsen av generative AI-verktøy skaper bekymringer rundt immaterielle rettigheter, personvern og cybersikkerhet.
- Usikkerhet i økonomisk planlegging (62%): Organisasjoner kan møte utfordringer i sine økonomiske planleggingsprosesser på grunn av skiftende økonomiske forhold, endringer i regelverk eller volatilitet i markedet.
- Risiko for skykonsentrasjon (62%): Etter hvert som virksomheter i stadig større grad baserer seg på skybaserte løsninger, er det en økende risiko forbundet med å være for avhengig av én enkelt skyleverandør.
- Handelsspenninger i Kina (56%): Pågående handelsspenninger med Kina antyder potensielle forstyrrelser i internasjonal handel, noe som påvirker forsyningskjeder, tollsatser og markedsstabilitet.
Ran Xu, forskningsdirektør for Gartners risiko- og revisjonsavdeling, fremhevet at generativ AI økte kraftig i deres kvartalsvise risikoundersøkelse.
Xu uttalte: "Dette gjenspeiler både den raske veksten i offentlig bevissthet og bruk av generative AI-verktøy, samt bredden av potensielle bruksområder og dermed potensielle risikoer som disse verktøyene medfører."
AI-verktøy utvikles fortsatt hovedsakelig av den samme håndfullen selskaper, noe som betyr at bedrifter som bygger arbeidsflyter rundt dem, er sårbare for svingninger i ytelsen i et marked med lav konkurranse. Dette er tydelig i de nylige debattene rundt GPT-4s utskriftskvalitet, som har angivelig avvist de siste månedene.
OpenAI innrømmet at ytelsen hadde gått ned på noen oppgaver, men har ennå ikke avslørt de tekniske detaljene om hvorfor.
Svingninger i AI-ytelsen er dårlige nyheter for selskaper som bygger forretningskritiske arbeidsflyter rundt modeller de ikke har kontroll over.
