Bedrijven haasten zich om te profiteren van generatieve AI, maar uit onderzoek blijkt dat dit risico's met zich meebrengt.
Volgens recente gegevens van BlackBerryverbiedt maar liefst 75% van de bedrijven het gebruik van tools als ChatGPT en andere generatieve AI-platforms of overweegt dit te beperken.
Uit het onderzoek bleek dat 61% van de organisaties die een dergelijke stap overwegen, denkt dat de beperkingen permanent of langdurig zullen zijn.
2.000 IT-beslissers uit de VS, het VK, Canada, Duitsland, Frankrijk, Nederland, Japan en Australië namen deel.
Leidinggevenden noemden zorgen over gegevensbeveiliging, privacy en de mogelijke schade aan de merkreputatie.
Een duidelijke meerderheid (80%) vond dat een organisatie het recht heeft om toe te staan of te weigeren welke applicaties werknemers gebruiken voor hun werk, en 74% vond ook dat een regelrecht verbod te ver zou kunnen gaan.
Er waren ook positieve bevindingen. Ongeveer 55% erkende de efficiëntiewinst van AI, 52% geloofde in het vermogen van AI om innovatie te bevorderen en 51% vond dat AI de creativiteit kon vergroten. Nog eens 81% zag zijn potentiële nut in het versterken van de verdediging van cyberbeveiliging.
De Amerikaanse regering heeft onlangs een cyberbeveiligingsuitdaging om AI-toepassingen te ontwerpen ter ondersteuning van de nationale veiligheid.
BlackBerry's Chief Technology Officer, Shishir Singh, merkte op over de bevindingen: "Het verbieden van generatieve AI-toepassingen op de werkplek kan betekenen dat een schat aan potentiële zakelijke voordelen teniet wordt gedaan."
Hij voegde eraan toe: "Naarmate platforms volwassener worden en regelgeving van kracht wordt, kan flexibiliteit worden geïntroduceerd in het beleid van organisaties. De sleutel ligt in de juiste tools voor zichtbaarheid, monitoring en beheer van applicaties die op de werkplek worden gebruikt."
Gartner-onderzoek belicht soortgelijke AI-gerelateerde risico's voor bedrijven
Een recente Gartner-onderzoek van 249 senior executives onthulde soortgelijke bevindingen als BlackBerry's onderzoek en benadrukte zorgen over beveiliging, intellectueel eigendom en een te grote afhankelijkheid van technologie van derden.
- Levensvatbaarheid door derden (67%): Executives maakten zich zorgen over de stabiliteit of betrouwbaarheid van externe AI-partners of -verkopers. Als deze derde partijen voor uitdagingen komen te staan, kan dit een kettingreactie teweegbrengen bij de organisaties die van hen afhankelijk zijn.
- Massale beschikbaarheid van generatieve AI (66%): De proliferatie van generatieve AI-tools leidt tot zorgen over intellectueel eigendom, privacy en cyberveiligheid.
- Onzekerheid bij financiële planning (62%): Organisaties kunnen te maken krijgen met uitdagingen in hun financiële planningsprocessen als gevolg van veranderende economische omstandigheden, wijzigingen in de regelgeving of marktvolatiliteit.
- Risico op wolkenconcentratie (62%): Nu bedrijven steeds meer vertrouwen op cloudgebaseerde oplossingen, neemt het risico toe dat ze te afhankelijk worden van één cloudprovider.
- Handelsspanningen China (56%): Lopend handelsspanningen met China wijzen op mogelijke verstoringen in de internationale handel, die van invloed zijn op toeleveringsketens, tarieven en marktstabiliteit.
Ran Xu, de onderzoeksdirecteur voor de risico- en auditpraktijk van Gartner, benadrukte dat generatieve AI een hoge vlucht nam in hun driemaandelijkse risico-enquête.
Xu verklaarde: "Dit weerspiegelt zowel de snelle groei van het publieke bewustzijn en het gebruik van generatieve AI-tools, als de breedte van de potentiële gebruikssituaties en dus de potentiële risico's die deze tools met zich meebrengen."
AI-tools worden nog steeds voornamelijk ontwikkeld door hetzelfde handjevol bedrijven, wat betekent dat bedrijven die er workflows omheen bouwen kwetsbaar zijn voor prestatiefluctuaties in een markt met weinig concurrentie. Dit is duidelijk te zien in recente discussies over de uitvoerkwaliteit van GPT-4, die naar verluidt geweigerd in de afgelopen maanden.
OpenAI heeft toegegeven dat de prestaties bij sommige taken zijn afgenomen, maar geeft nog geen technische details over de reden.
Fluctuaties in AI-prestaties zijn slecht nieuws voor bedrijven die bedrijfskritische workflows bouwen rond modellen waar ze geen controle over hebben.
