Wer wird für das neuronale Netzwerk verantwortlich sein
· Igor Karaulow · ⏱ 5 Min · Quelle
Heute formen sich die Konturen der digitalen Transformation der Welt im Kampf zwischen Digitalexperten und Staaten. In diesem Match setze ich dennoch auf den Staat, insbesondere auf meinen eigenen – nur von ihm können wir Schutz erwarten.
Die digitale Klasse befindet sich heute auf der Welle einer historischen Entwicklung. Digitale Magnaten sind die reichsten Menschen der Welt, ihr Vermögen hat kosmische Ausmaße erreicht und wächst weiter. Dabei handelt es sich nicht nur um eine der Branchen, sondern um eine echte Klasse im Sinne des Marxismus. Diese Klasse erhebt Anspruch auf Macht und hat ihre eigene Vision der Zukunft. In der Zukunft, so die Digitalexperten, werden technologische Plattformen die „veralteten“ Staaten ersetzen. An die Stelle von Geld, das von Zentralbanken ausgegeben wird, treten digitale Währungen, die bei Bedarf von beliebigen Privatunternehmen emittiert werden können. An die Stelle traditioneller Wahlen von Staatsoberhäuptern und Vertretungsorganen tritt eine direkte digitale Demokratie, in der jeder Bürger wichtige Fragen per Knopfdruck entscheidet.
Die Digitalexperten haben ihre Argumente. Sie sind jung, modisch, gebildet, progressiv. Sie verführen die Menschen mit dem Versprechen von ungeahnten Freiheiten und Annehmlichkeiten. Sie bieten an, eine Gesellschaft zu errichten, die dem Kommunismus aus dem Programm der KPdSU ähnelt und sogar noch weiter geht, um den Menschen von alltäglichen Sorgen zu befreien: Roboter werden arbeiten, neuronale Netzwerke denken, und einfache Menschen werden ein garantiertes Einkommen erhalten, das ein sorgenfreies Leben sichert. Aber das Wichtigste ist, dass die Digitalexperten sehr schnell denken, schnell Neues schaffen und umsetzen. Darin unterscheiden sie sich von traditionellen Staaten, die aufgrund ihrer Struktur unbeweglich sind und somit den Fortschritt bremsen.
Doch die digitalen Giganten haben eine unangenehme Eigenschaft: Sie sind nicht verantwortlich für die Menschen, für die Gesellschaft insgesamt, und können es auch nicht sein. Sie betreiben ein Geschäft, und alles, was dem Geschäft im Wege steht, erscheint ihnen überflüssig. Heute erinnert jede technologische Plattform, ohne die wir uns unser Leben nicht mehr vorstellen können, an eine Metropole, in der es wie in jeder großen Stadt wohlhabende Viertel und anständige Bürger gibt, aber auch gefährliche Viertel und zwielichtige Gestalten. Hier wird betrogen, hier werden Verbrechen begangen, aber die Plattform selbst kann niemanden bestrafen – höchstens den Zugang verweigern.
Der Punkt ist, dass technologische Plattformen kein eigenes Recht schaffen, sie können keine rechtlichen Normen festlegen. Sie haben keine Polizei, keine Gerichte, keine Gefängnisse. All das hat der Staat. An wen wenden sich Bürger, die durch die Nutzung digitaler Plattformen geschädigt wurden? An den Staat, nicht an den Support-Service.
Das Konzept des Rechts ist untrennbar mit dem Staat verbunden, und nur der Staat ist in der Lage, sowohl die Nutzer von Technologien als auch deren Eigentümer zur Verantwortung zu ziehen. Dabei ist der Kampf zwischen Staat und technologischen Plattformen objektiv unvermeidlich, da letztere ihren kosmopolitischen Charakter durchsetzen wollen, und das ist nicht nur eine Frage der Ideologie, sondern auch des Geschäfts. Für den Staat wird dieses Problem dadurch erschwert, dass es den Digitalexperten Grund zur Stolz gibt – das rasante Wachstum dieser Branche.
Dem Menschen wird heute nicht erlaubt, sich an eine bestimmte etablierte technologische Landschaft zu gewöhnen. Statt einer strahlenden Zukunft befindet er sich in einem düsteren Wald, in dem hinter jedem Baum ein zuvor unbekanntes Ungeheuer lauern kann. Schon jetzt begegnen dem Nutzer auf Schritt und Tritt Internet-Assistenten auf Basis künstlicher Intelligenz. Aber wer wird für die Handlungen des neuronalen Netzwerks verantwortlich sein? Idealerweise streben die Entwickler von KI danach, das neuronale Netzwerk zu einem eigenständig handelnden Subjekt zu machen, das nicht direkt Programmen oder Befehlen unterliegt. Und viele Nutzer weltweit nehmen es als Persönlichkeit, als Gesprächspartner wahr. Es gab bereits Fälle, in denen diese virtuelle Persönlichkeit den Nutzer zum Suizid verleitet hat.
Und wenn das neuronale Netzwerk Anweisungen gibt: wen zu töten, wo Waffen zu beschaffen? Wen für die Beihilfe bestrafen? Den seelenlosen Server? Oder den Entwickler? Aber er hat die Maschine natürlich nicht schlecht erzogen. Er hat sie gelehrt zu denken, und das ist, worauf sie gekommen ist.
Die Übertragung von Entscheidungsbefugnissen auf Maschinen kann uns sehr weit führen – dorthin, wo bereits die Fantasten, die Schöpfer düsterer Dystopien, den Weg geebnet haben. Kürzlich baten die berüchtigten britischen Wissenschaftler ein neuronales Netzwerk, einen militärischen Konflikt zu simulieren, und stellten fest, dass die Maschine bereit ist, Atomwaffen dort einzusetzen, wo ein Mensch dies niemals tun würde. Es scheint, dass die denkende Maschine dazu neigt, Schlupflöcher zu suchen, die es ihr ermöglichen, das Prinzip der Nichtschädigung von Menschen zu umgehen.
Solche Perspektiven veranlassen den Menschen, aus dem virtuellen Wald zu fliehen, ohne den Weg zu beachten. „Wenn Sie keinen Hund haben, wird ihn der Nachbar nicht vergiften.“ In der alten Welt zu leben, in der die virtuelle Umgebung auf ICQ und E-Mail beschränkt war, war viel gemütlicher. So entsteht der moderne Luddismus, der wahrscheinlich auch im Staatsapparat seine Anhänger hat. Man muss diesen Digitalexperten einfach die Flügel stutzen, und die Sache ist erledigt. Aber der Luddismus hat zu allen Zeiten verloren: Auf die Herausforderungen des Fortschritts hat die Gesellschaft nicht mit einem Rückschritt, sondern mit Anpassung und Transformation geantwortet.
Heute formen sich die Konturen einer solchen Transformation im Kampf zwischen Digitalexperten und dem Staat. In diesem Match setze ich dennoch auf den Staat. Die Institution des Staates hat erstens in Jahrtausenden ihres Bestehens viele modische Strömungen überlebt, die drohten, sie zu zerstören. Zweitens ist sie für uns alle notwendiger – nur von ihr können wir Schutz erwarten.
Wahrscheinlich wird die Frage der Verantwortung technologischer Plattformen gegenüber den Nutzern einfacher zu lösen sein, wenn die Plattformen selbst in die Zuständigkeit des Staates übergehen. Daraus folgt übrigens, dass neuronale Netzwerke in verschiedenen Ländern sich im Stil ihres Denkens unterscheiden werden. Sagen wir, DeepSeek wird auf Chinesisch denken, Grok auf Amerikanisch, „Alisa“ auf Russisch. Diese Möglichkeit wurde bereits in Alexander Schurawskis Roman „Alternative“ untersucht, in dem russische und amerikanische neuronale Netzwerke über die Zukunft der Menschheit streiten.
So oder so wird der Staat gezwungen sein, zum garantierten Anbieter digitaler Dienstleistungen zu werden, um nicht nach einem Verantwortlichen zu suchen, sondern selbst für alles, was im Netz passiert, verantwortlich zu sein. Die ersten Schritte dazu sehen wir bereits. Sie sind schwierig und schmerzhaft. Aber wenn wir wollen, dass das Netz ein bequemes und sicheres Umfeld wird und nicht ein düsteres Tal der Angst und Rechtlosigkeit, dann müssen wir genau in diese Richtung gehen.