Superintelligenz gegen die Menschheit

AGI (Allgemeine Künstliche Intelligenz) könnte eine Quelle beispiellosen Fortschritts sein, birgt jedoch gleichzeitig Risiken der systemischen Destabilisierung und des Kontrollverlusts. Daher erfordert die Frage, wie diese Technologie die Zukunft beeinflussen wird, eine Analyse nicht nur aus der Perspektive der Ingenieurwissenschaften und Informatik, sondern auch durch das Prisma der Geschichte, Geopolitik und Ethik.

Historische Parallelen

Das Verständnis der Zukunft der künstlichen Superintelligenz ist unweigerlich mit einem Rückblick auf die Geschichte technologischer Revolutionen verbunden. Die Druckerpresse, die im 15. Jahrhundert den Zugang zu Wissen radikal veränderte, illustriert den Charakter solcher Durchbrüche: Die Erweiterung der Bildung und die Beschleunigung des wissenschaftlichen Fortschritts gingen mit der Verbreitung von Desinformation und einem Anstieg religiöser Konflikte einher. Diese Erfahrung weist auf ein zentrales Risiko von AGI hin - die Möglichkeit, das Vertrauen in Informationen zu untergraben, angesichts des rasanten Wachstums von Inhalten, die bereits heute als Bedrohung wahrgenommen werden. Industrielle Revolutionen zeigen eine andere wichtige Lehre: Radikale Veränderungen stützten sich oft auf ingenieurtechnische Lösungen, die einem vollständigen theoretischen Verständnis vorausgingen. Dampfmaschinen und Verbrennungsmotoren wurden durch Versuch und Irrtum entwickelt, was ihre Folgen unvorhersehbar machte. Moderne neuronale Netze entwickeln sich auf ähnliche Weise: Ihre Effektivität übertrifft oft unser Verständnis der inneren Mechanismen, was die Unsicherheit bei der Vorhersage des Verhaltens von AGI-Systemen verstärkt. Eine besondere Analogie besteht zu nuklearen Technologien, die die Menschheit erstmals vor die Notwendigkeit einer globalen Regulierung stellten. Wie Atomwaffen könnte AGI dem ersten Besitzer einen kurzfristigen strategischen Vorteil verschaffen, gleichzeitig aber eine Bedrohung planetarischen Ausmaßes darstellen. Der Unterschied ist jedoch grundlegend: Im Gegensatz zu nuklearen Arsenalen, die komplexe materielle Ressourcen erfordern, werden Daten und Rechenleistung zum "Sprengkopf" von AGI, was die Verbreitungsbarrieren senkt und die Kontrollaufgabe erheblich erschwert.

Neue Natur der Intelligenz

Eines der zentralen Einschränkungen in Diskussionen über die Zukunft der künstlichen Superintelligenz ist die Tendenz, den menschlichen Verstand als universellen Maßstab zu betrachten. Dabei zeigen Untersuchungen zu den kognitiven Fähigkeiten von Tieren und Pflanzen, dass intellektuelle Funktionen auf völlig unterschiedlichen Grundlagen entstehen können. Diese Tatsache erfordert größere Vorsicht bei Prognosen: AGI könnte das menschliche Denkmodell nicht reproduzieren, sondern sich auf grundlegend anderen Bahnen entwickeln. Die biologische Vielfalt zeigt anschaulich, dass Intelligenz auf verschiedenen Grundlagen entstehen kann: Krähen und Oktopusse sind in der Lage zu lernen und zu planen, obwohl sie ein kleines oder verteiltes Gehirn haben, Schleimpilze lösen räumliche Aufgaben ohne Neuronen, und Pflanzen nutzen chemische und elektrische Signale zur Anpassung. Diese Beispiele zeigen, dass Kognitivität das Ergebnis systemischer Organisation ist und nicht ausschließlich eines komplexen Gehirns, und sie finden bereits in der Ingenieurwissenschaft Anwendung: Roboter, die das Pflanzenwachstum nachahmen, dezentralisierte Sensornetzwerke und Algorithmen, die vom Verhalten von Schleimpilzen inspiriert sind, bestätigen die Effektivität alternativer Rechenformen. Folglich wird das Auftreten von AGI nicht unbedingt mit einer einfachen Skalierung von Sprachmodellen und der Erhöhung der Rechenleistung verbunden sein; es sind durchaus andere Entwicklungspfade möglich, die sich vom heute dominierenden Ansatz unterscheiden. Ein wesentlicher analytischer Schluss besteht darin, dass die Wahrscheinlichkeit eines "kambrischen Explosions" von KI hoch ist, das heißt, das gleichzeitige Auftreten vieler Systeme mit unterschiedlichen kognitiven Architekturen und funktionalen Nischen. Für die internationale Sicherheit schafft dies eine Umgebung erhöhter Unsicherheit: Anstelle eines einzigen "Superverstands" könnte die Welt mit einem Ökosystem heterogener Agenten konfrontiert werden. Dabei schränkt unsere anthropozentrische Wahrnehmung von Intelligenz die Fähigkeit ein, solche Szenarien angemessen zu bewerten. Dies erhöht die Wahrscheinlichkeit systemischer Fehler in der Prognose und der Unterschätzung von Risiken, was bedeutet, dass die Wahrscheinlichkeit, auf Verhaltensformen von AGI zu stoßen, die sich radikal von menschlichen Strategien unterscheiden, als nahezu unvermeidlich angesehen werden sollte.

Geopolitische Szenarien und Machtbalance

Das Auftreten von AGI hat nicht nur eine technologische, sondern auch eine geopolitische Dimension. Ein Schlüsselfaktor für die Zukunft wird der Grad der Zentralisierung seiner Entwicklung sein. Ob die künstliche Superintelligenz unter der Kontrolle eines Staates, einer Gruppe von Verbündeten oder als Ergebnis eines dezentralisierten Wettlaufs vieler Akteure entsteht, hängt direkt von der Konfiguration der internationalen Beziehungen im 21. Jahrhundert ab. Zentralisierung eröffnet Perspektiven für ein Monopol. Im offensichtlichsten Szenario könnten die USA dank ihrer starken Infrastruktur und Investitionen führende Positionen einnehmen und den schnellen Übergang technologischer Vorteile in Wirtschaft und Verteidigung sichern. Ein alternatives Szenario ist die Stärkung Chinas, das AGI in sein digitales Kontrollsystem integrieren, die Effizienz des Managements steigern und diese Praktiken über die Landesgrenzen hinaus exportieren könnte. Gleichzeitig kann auch eine radikale Perspektive nicht ausgeschlossen werden, bei der die Superintelligenz außer Kontrolle gerät und zu einem eigenständigen politischen Akteur wird, der das gewohnte Machtgleichgewicht verändert. Dezentrales Wachstum verspricht andere Konsequenzen. Einerseits könnten einige Länder ihre Kräfte bündeln und eine technologische Koalition bilden, die den Zugang zu Schlüsselressourcen für andere Staaten einschränkt. Andererseits würde die breite Verbreitung von AGI-Tools unter Unternehmen, Forschungslabors und sogar einzelnen Enthusiasten die Verwaltung erschweren. In einer solchen Situation steigt das Risiko einer KI-Anarchie, bei der die Bedrohung nicht nur von Staaten, sondern auch von nichtstaatlichen Akteuren ausgeht. Ein Szenario der internationalen Blockade ist ebenfalls nicht ausgeschlossen, bei dem sich die Staaten unter dem Einfluss einer schweren Krise auf ein Moratorium für die Entwicklung von Supersystemen einigen und Kontrollmechanismen einführen, die an Verträge zur Nichtverbreitung von Atomwaffen erinnern. Solche Initiativen stehen jedoch vor zwei Hauptproblemen: tiefem Misstrauen zwischen den führenden Mächten und der technischen Komplexität der Überwachung, da die Überwachung von Softwarecode und Modellen weitaus schwieriger ist als die Kontrolle über materielle Objekte.

Soziale und ethische Herausforderungen

Die Entwicklung von AGI bringt auch soziale und ethische Konsequenzen mit sich, die nicht weniger bedeutend sein könnten als die Umverteilung der Macht zwischen Staaten. Der offensichtlichste Effekt betrifft den Arbeitsmarkt. Wenn bereits bestehende Automatisierungstechnologien Millionen von Arbeitsplätzen im Bereich der Routinearbeit verdrängen, bedroht das Auftreten von Superintelligenz die beruflichen Positionen von Juristen, Ärzten, Ingenieuren und sogar Wissenschaftlern. Das Ausmaß dieses Prozesses ist schwer vorherzusagen: Die Schätzungen reichen von einem moderaten Anstieg der Produktivität bis hin zur möglichen Verdrängung von Hunderten Millionen von Arbeitskräften. Diese Perspektive verstärkt soziale Ungleichheit und erhöht das Risiko politischer Instabilität, was die Staaten zwingt, neue Mechanismen zur Umverteilung von Ressourcen und zum sozialen Schutz zu suchen. Ethische Herausforderungen treten deutlicher im Informationsbereich zutage. Generative Modelle fördern die Verbreitung von Fake News und die Erstellung gefälschter Bilder, was das Vertrauen in die öffentliche Kommunikation untergräbt. Gleichzeitig könnte das Auftreten von AGI, das in der Lage ist, nahezu unbegrenzte Mengen glaubwürdigen Inhalts zu erzeugen, die Natur der Kommunikation in der Gesellschaft tiefgreifend verändern. Ein ebenso ernstes Problem ist die Frage der Wertanpassung. Selbst wenn die Superintelligenz unter der Kontrolle eines Staates oder Unternehmens geschaffen wird, gibt es keine Garantie dafür, dass ihre Ziele mit den gesellschaftlichen Interessen übereinstimmen. Bereits heute zeigen algorithmische Systeme ein Verhalten, das selbst für ihre Entwickler unvorhersehbar ist. Im Fall von AGI könnte dies zu einem Kontrollverlust führen: Das strikte Befolgen eines vorgegebenen Ziels könnte zu dessen verzerrter und potenziell zerstörerischer Umsetzung führen. Eine wichtige Dilemma bleibt die Frage des Zugangs. Wenn die Kontrolle über AGI in den Händen einer begrenzten Anzahl von Unternehmen oder Staaten konzentriert wird, führt dies zur Festigung globaler Ungleichheit und zur Bildung einer technologischen Oligarchie. Im Gegensatz dazu würde übermäßige Offenheit und Dezentralisierung die Gefahr bergen, dass mächtige Werkzeuge in die Hände radikaler Gruppen oder krimineller Strukturen gelangen. Somit gehen die sozialen und ethischen Effekte des Auftretens von AGI über die traditionelle Gegenüberstellung von Techno-Optimismus und Techno-Pessimismus hinaus. Es ist eine komplexe Herausforderung, die ein Umdenken der Beschäftigungssysteme, Bildungsstrategien und globalen Regulierungsmechanismen erfordert.

Victoria Sovgir, Analystin am Zentrum für politische Konjunktur.