Virksomhederne har travlt med at drage fordel af generativ AI, men undersøgelser viser, at det er forbundet med risici.
Ifølge de seneste data fra BlackBerryer det svimlende 75% af virksomhederne, der enten forbyder eller overvejer at begrænse brugen af værktøjer som ChatGPT og andre generative AI-platforme.
Undersøgelsen viste, at 61% af de organisationer, der overvejer et sådant skridt, mener, at restriktionerne kan være permanente eller langvarige.
2.000 it-beslutningstagere fra USA, Storbritannien, Canada, Tyskland, Frankrig, Holland, Japan og Australien deltog.
Lederne nævnte bekymringer omkring datasikkerhed, privatlivets fred og den potentielle skade på brandets omdømme.
Et klart flertal (80%) mente, at det var en organisations ret at tillade eller afvise, hvilke applikationer medarbejderne bruger i deres arbejde, og 74% mente også, at direkte forbud kunne være for vidtgående.
Der var også positive resultater. Omkring 55% anerkendte AI's effektivitetsgevinster, 52% troede på dens evne til at fremme innovation, og 51% mente, at den kunne øge kreativiteten. Yderligere 81% så dens potentielle anvendelse til at styrke cybersikkerhedsforsvaret.
Den amerikanske regering annoncerede for nylig en Cybersikkerhedsudfordring at designe AI-applikationer til at styrke den nationale sikkerhed.
BlackBerrys Chief Technology Officer, Shishir Singh, bemærkede om resultaterne: "At forbyde generative AI-applikationer på arbejdspladsen kan betyde, at et væld af potentielle forretningsfordele tilsidesættes."
Han tilføjer: "Efterhånden som platformene modnes, og reglerne træder i kraft, kan der indføres fleksibilitet i organisationens politikker. Nøglen vil være at have de rigtige værktøjer på plads til synlighed, overvågning og styring af applikationer, der bruges på arbejdspladsen."
Gartner-undersøgelse fremhæver lignende AI-relaterede risici for virksomheder
En nylig Gartner-undersøgelse af 249 topledere afslørede lignende resultater som BlackBerrys undersøgelse og fremhævede bekymringer omkring sikkerhed, intellektuel ejendomsret og overdreven afhængighed af tredjepartsteknologi.
- Tredjeparts levedygtighed (67%): Ledere nævnte bekymringer om eksterne AI-partneres eller leverandørers stabilitet eller pålidelighed. Hvis disse tredjeparter møder udfordringer, kan det få afsmittende virkning på de organisationer, der er afhængige af dem.
- Massegenerativ AI-tilgængelighed (66%): Udbredelsen af generative AI-værktøjer giver anledning til bekymringer omkring intellektuel ejendomsret, privatlivets fred og cybersikkerhed.
- Usikkerhed i forbindelse med finansiel planlægning (62%): Organisationer kan stå over for udfordringer i deres finansielle planlægningsprocesser forårsaget af skiftende økonomiske forhold, lovændringer eller markedsvolatilitet.
- Risiko for koncentration i skyen (62%): Da virksomheder i stigende grad er afhængige af cloud-baserede løsninger, er der en voksende risiko forbundet med at være for afhængig af en enkelt cloud-udbyder.
- Handelsspændinger i Kina (56%): Løbende Handelsspændinger med Kina antyder potentielle forstyrrelser i den internationale handel, der påvirker forsyningskæder, toldsatser og markedsstabilitet.
Ran Xu, forskningsdirektør for Gartners risiko- og revisionspraksis, fremhævede, at generativ AI steg i deres kvartalsvise risikoundersøgelse.
Xu sagde: "Dette afspejler både den hurtige vækst i offentlighedens bevidsthed og brug af generative AI-værktøjer samt bredden af potentielle brugssager og derfor potentielle risici, som disse værktøjer medfører."
AI-værktøjer udvikles stadig overvejende af den samme håndfuld virksomheder, hvilket betyder, at virksomheder, der bygger workflows op omkring dem, er sårbare over for udsving i ydeevnen på et marked med lav konkurrence. Dette er tydeligt i de seneste debatter omkring GPT-4's outputkvalitet, som har afviste efter sigende i de seneste måneder.
OpenAI indrømmede, at ydeevnen var faldet på nogle opgaver, men har endnu ikke afsløret de tekniske detaljer om hvorfor.
Udsving i AI's ydeevne er dårligt nyt for virksomheder, der bygger forretningskritiske arbejdsgange omkring modeller, som de ikke har kontrol over.
