Die jüngsten Ereignisse bei OpenAI haben die Ideologien des "effektiven Altruismus" und seines Ablegers, des "Langfristigenismus", deutlich gemacht.
Aber wWas bedeuten diese "Philosophien" überhaupt? Und wie wirken sie sich auf die KI-Politik und -Governance aus?
OpenAI wurde ursprünglich als Non-Profit-Organisation gegründet. Dann, im Jahr 2019, wurde es zu einem gewinnorientierten Unternehmen, definiert als eine "Partnerschaft zwischen unserer ursprünglichen gemeinnützigen Organisation und einem neuen gewinnorientierten Unternehmen".
Sobald das Unternehmen wusste, worauf es saß, konnte es nicht ewig von den Investoren und dem Gewinnstreben fernhalten konnte.
Seit 2019 ist die Rolle des effektiven Altruismus, der die Mission von OpenAI untermauerte, in den Hintergrund getreten.
Was ist effektiver Altruismus?
Effektiver Altruismus ist eine moderne Philosophie, die vor nicht allzu langer Zeit von Wissenschaftlern der Universität Oxford wie William MacAskill und Toby Ord begründet wurde.
Kurz gesagt geht es um die Maximierung positiver Auswirkungen auf den Planeten im allgemeinen Sinne, definiert als "Nutzung von Beweisen und Vernunft, um herauszufinden, wie man anderen so viel wie möglich nützen kann, und auf dieser Grundlage zu handeln".
Die Unterart des Langfristismus konzentriert sich auf die Verringerung existenzieller Risiken, um das Wohlergehen künftiger Generationen zu gewährleisten. Er entstand aus der Kritik an kurzfristigen, zyklischen Regierungen. Es wird argumentiert, dass die derzeitige Regierungsführung nicht die Art von systematischen, konsequenten Maßnahmen ermöglicht, die wir zur Unterstützung unseres Planeten benötigen.
OpenAI, das mit dem hochgesteckten Ziel gegründet wurde, KI zum Nutzen der Menschheit zu entwickeln, hat sich diese Grundsätze zu eigen gemacht.
Die kommerzielle Expansion des Unternehmens und die Unterstützung für Investitionen, wie die $1-Milliarde von Microsoft, führten jedoch zu einem Konflikt zwischen diesen altruistischen Zielen und den praktischen Geschäftserfordernissen.
Altruistische Ideologie bei OpenAI
Dieser Zusammenprall der Ideologien erreichte einen Sollbruchstelle innerhalb von OpenAI.
Auf der einen Seite steht der Technokapitalismus des Silicon Valley, der bahnbrechende Ideen mit massivem Risikokapital fördert.
Auf der anderen Seite steht die langsamere und vorsichtigere Herangehensweise, die sich unter den Chefs der KI-Technologen als de-facto-Haltung durchgesetzt hat. Was können sie angesichts des nationalen und internationalen Drucks, ihre Produkte vorsichtig zu mäßigen, noch sagen?
Damit sich die KI weiterentwickeln kann, muss sie diejenigen besänftigen, die sich vor ihr fürchten. Zwar gibt es erhebliche Diskussion über die Frage, ob KI wirklich gefährlich ist, bleibt der Punkt, dass viele Menschen besorgt sind.
Diese Dichotomie wurde von Altman verkörpert, der zwar OpenAI zu einem technischen Kraftwerk machte, aber auch vor den existenziellen Bedrohungen warnte, die von fortgeschrittener KI ausgehen. Auch hier gilt: Welche Wahl hatte er?
Um zu beruhigen, betonte Altman, dass die Struktur von OpenAI das Unternehmen davor schütze, riskantere Wege zu beschreiten, aber seine Wiedereinsetzung als CEO macht das zunichte. Altman wurde zwangsweise wieder eingestellt, unabhängig davon, ob Sie dies als einen herzlichen Akt der Solidarität betrachten oder nicht.
"Auf dem Papier hatte der Vorstand die Macht, so hat es Sam Altman dargestellt", sagt Toby Ord, einer der Begründer des effektiven Altruismus und Mitglied des Center for the Governance of AI (CAIS).
Er fuhr fort: "Stattdessen scheint ein sehr großer Teil der Macht bei Altman persönlich, den Mitarbeitern und Microsoft zu liegen."
Vorstandsdynamik und Herausforderungen
Die Entlassung von Altman durch Vorstandsmitglieder, von denen einige mit der effektiven Altruismus-Bewegung verbunden waren, bedroht die Fähigkeit von OpenAI, sich weiterhin als neuartiges Unternehmen zu vermarkten, das sich auf humanitäre Vorteile konzentriert.
Die Mitglieder des Verwaltungsrats behaupteten, Altman sei in seiner Kommunikation nicht offen" gewesen, aber die meisten glauben, dass er die Sicherheit nicht ernst genommen hat.
Der neue Vorstand von OpenAI ist zwar vorerst an dieselben Regeln gebunden wie der alte, wird Altman aber nicht denselben Widerstand entgegenbringen.
Die Lösung dieser Krise mit Altmans Rückkehr und der Umgestaltung des Vorstands lässt Fragen über die künftige Ausrichtung des Unternehmens und seine Gründungsprinzipien unbeantwortet. OpenAI ist entfesselt - Altman wird nicht abgesetzt werden, bevor er nicht fertig ist.
Allerdings wird es für OpenAI schwierig sein, riskantere KI-Entwicklungen voranzutreiben, allein schon wegen dieser Vorstandsumbildung. Wenn Wenn OpenAI zu optimistisch ist, könnten sie die Maßnahmen gegen sie beschleunigen. Sie stehen unter genauer Beobachtung durch Organisationen wie die FTC bereits.
Wie können Unternehmen langfristige altruistische Philosophien mit den Realitäten des technologischen und wirtschaftlichen Fortschritts in Einklang bringen?
Sind die beiden kompatibel? Waren sie jemals kompatibel?
