Unternehmen drängen darauf, die Vorteile der generativen KI zu nutzen, aber Umfragen zeigen, dass dies mit Risiken verbunden ist.
Nach den jüngsten Daten von BlackBerryhaben 75% der Unternehmen die Nutzung von Tools wie ChatGPT und anderen generativen KI-Plattformen entweder verboten oder erwägen, sie einzuschränken.
Die Untersuchung ergab, dass 61% der Unternehmen, die einen solchen Schritt in Erwägung ziehen, davon ausgehen, dass die Einschränkungen dauerhaft oder langfristig sein könnten.
2.000 IT-Entscheidungsträger aus den USA, Großbritannien, Kanada, Deutschland, Frankreich, den Niederlanden, Japan und Australien nahmen teil.
Die Führungskräfte nannten Bedenken hinsichtlich der Datensicherheit, des Datenschutzes und der möglichen Schädigung des Markenrufs.
Eine deutliche Mehrheit (80%) war der Meinung, dass es das Vorrecht eines Unternehmens sei, zu erlauben oder zu verweigern, welche Anwendungen die Mitarbeiter für ihre Arbeit nutzen, und 74% waren auch der Meinung, dass ein völliges Verbot zu weit gehen könnte.
Es gab auch positive Ergebnisse. Etwa 55% erkannten die Effizienzgewinne der KI an, 52% glaubten an ihre innovationsfördernde Wirkung, und 51% waren der Meinung, dass sie die Kreativität steigern könnte. Ein weiterer 81% sah seinen potenziellen Nutzen in der Verstärkung der Cybersicherheitsabwehr.
Die US-Regierung kündigte kürzlich eine Herausforderung der Cybersicherheit die Entwicklung von KI-Anwendungen zur Stärkung der nationalen Sicherheit.
Shishir Singh, Chief Technology Officer von BlackBerry, kommentiert die Ergebnisse: "Das Verbot von generativen KI-Anwendungen am Arbeitsplatz kann bedeuten, dass eine Fülle von potenziellen Geschäftsvorteilen zunichte gemacht wird."
Er fügte hinzu: "Wenn die Plattformen ausgereift sind und die Vorschriften in Kraft treten, könnte die Flexibilität in die Unternehmensrichtlinien aufgenommen werden. Der Schlüssel wird darin liegen, die richtigen Werkzeuge für die Sichtbarkeit, Überwachung und Verwaltung der am Arbeitsplatz verwendeten Anwendungen zu haben".
Gartner-Studie zeigt ähnliche KI-bezogene Risiken für Unternehmen auf
Eine aktuelle Gartner-Umfrage Die Befragung von 249 Führungskräften ergab ähnliche Ergebnisse wie die Untersuchung von BlackBerry, wobei Bedenken hinsichtlich der Sicherheit, des geistigen Eigentums und der übermäßigen Abhängigkeit von Technologien Dritter hervorgehoben wurden.
- Lebensfähigkeit von Dritten (67%): Die Führungskräfte äußerten Bedenken hinsichtlich der Stabilität oder Zuverlässigkeit externer KI-Partner oder -Anbieter. Wenn es bei diesen Dritten zu Problemen kommt, könnte dies kaskadenartige Auswirkungen auf die Unternehmen haben, die von ihnen abhängig sind.
- Verfügbarkeit von generativer Massen-KI (66%): Die Verbreitung von generativen KI-Tools gibt Anlass zur Sorge um geistiges Eigentum, Datenschutz und Cybersicherheit.
- Unsicherheit bei der Finanzplanung (62%): Unternehmen können bei ihren Finanzplanungsprozessen mit Herausforderungen konfrontiert werden, die durch veränderte wirtschaftliche Bedingungen, regulatorische Änderungen oder Marktvolatilität verursacht werden.
- Risiko der Wolkenkonzentration (62%): Da Unternehmen zunehmend auf Cloud-basierte Lösungen zurückgreifen, wächst das Risiko, zu sehr von einem einzigen Cloud-Anbieter abhängig zu sein.
- Handelsspannungen in China (56%): Laufend Handelsspannungen mit China deuten auf mögliche Störungen im internationalen Handel hin, die sich auf Lieferketten, Zölle und Marktstabilität auswirken.
Ran Xu, Forschungsleiter für den Bereich Risiko und Audit bei Gartner, wies darauf hin, dass generative KI in der vierteljährlichen Risikoumfrage von Gartner stark angestiegen ist.
Xu erklärte: "Dies spiegelt sowohl die rasche Zunahme des öffentlichen Bewusstseins und der Nutzung von generativen KI-Tools wider als auch die Breite der potenziellen Anwendungsfälle und damit auch die potenziellen Risiken, die diese Tools mit sich bringen."
KI-Tools werden nach wie vor überwiegend von ein und derselben Handvoll Unternehmen entwickelt, was bedeutet, dass Unternehmen, die darauf aufbauende Workflows entwickeln, in einem Markt mit geringem Wettbewerb anfällig für Leistungsschwankungen sind. Dies zeigt sich in den jüngsten Debatten über die Ausgabequalität von GPT-4, die angeblich abgelehnt in den letzten Monaten.
OpenAI hat zugegeben, dass die Leistung bei einigen Aufgaben gesunken ist, muss aber noch die technischen Details der Gründe dafür bekannt geben.
Schwankungen in der KI-Leistung sind eine schlechte Nachricht für Unternehmen, die geschäftskritische Workflows auf Modellen aufbauen, die sie nicht kontrollieren können.
