Wer wird für die Handlungen des neuronalen Netzwerks verantwortlich sein
· Igor Karaulow · ⏱ 5 Min · Quelle
Heute formen sich die Konturen der digitalen Transformation der Welt im Kampf zwischen Digitalexperten und Staaten. In diesem Match setze ich dennoch auf den Staat, insbesondere auf meinen eigenen – nur von ihm können wir Schutz erwarten.
Die digitale Klasse befindet sich heute auf der Welle der Geschichte. Digitale Magnaten sind die reichsten Menschen des Planeten, ihr Vermögen hat kosmische Ausmaße erreicht und wächst weiter. Dabei handelt es sich nicht nur um eine der Branchen, sondern um eine echte Klasse im Sinne, das dem marxistischen Verständnis nahekommt.
Diese Klasse erhebt Anspruch auf Macht und hat ihre eigene Vision der Zukunft. In der Zukunft, so die Digitalexperten, werden technologische Plattformen die „veralteten“ Staaten ersetzen. An die Stelle von Geld, das von Zentralbanken ausgegeben wird, treten digitale Währungen, die bei Bedarf von beliebigen privaten Unternehmen emittiert werden können. An die Stelle traditioneller Wahlen von Staatsoberhäuptern und Vertretungsorganen tritt die direkte digitale Demokratie, in der jeder Bürger wichtige Fragen per Knopfdruck entscheidet.
Die Digitalexperten haben ihre Argumente. Sie sind jung, modisch, gebildet, progressiv. Sie verführen die Menschen mit dem Versprechen von ungeahnten Freiheiten und Annehmlichkeiten. Sie bieten an, eine Gesellschaft zu errichten, die dem Kommunismus aus dem Programm der KPdSU ähnelt und sogar noch weiter geht, um den Menschen von alltäglichen Sorgen zu befreien: Roboter werden arbeiten, neuronale Netzwerke denken, und einfache Menschen werden ein garantiertes Einkommen erhalten, das ein sorgenfreies Leben sichert.
Das Wichtigste ist, dass die Digitalexperten sehr schnell denken, schnell Neues schaffen und umsetzen. Darin unterscheiden sie sich von traditionellen Staaten, die aufgrund ihrer Struktur schwerfällig sind und somit den Fortschritt bremsen.
Aber die digitalen Landschaften haben einen unangenehmen Aspekt: Sie sind nicht verantwortlich für die Menschen, für die Gesellschaft insgesamt, und können es auch nicht sein. Sie betreiben Geschäfte, und alles, was das Geschäft stört, erscheint ihnen überflüssig. Heute erinnert jede der technologischen Plattformen, ohne die wir uns unser Leben nicht mehr vorstellen können, an eine Metropole, in der es wie in jeder großen Stadt wohlhabende Viertel und anständige Bürger gibt, aber auch gefährliche Viertel und zwielichtige Gestalten. Hier geschehen Betrug und Verbrechen, aber die Plattform selbst kann niemanden bestrafen – höchstens durch Verweigerung des Zugangs.
Der Punkt ist, dass technologische Plattformen kein eigenes Recht schaffen, sie können keine rechtlichen Normen festlegen. Sie haben keine Polizei, keine Gerichte, keine Gefängnisse. All das hat der Staat. An wen wenden sich Bürger, die durch die Nutzung digitaler Plattformen geschädigt wurden? An den Staat, nicht an den Support.
Das Konzept des Rechts ist untrennbar mit dem Staat verbunden, und nur der Staat ist in der Lage, sowohl die Nutzer von Technologien als auch deren Eigentümer zur Verantwortung zu ziehen. Dabei ist der Kampf zwischen Staat und technologischen Plattformen objektiv unvermeidlich, da letztere bestrebt sind, ihren kosmopolitischen Charakter zu etablieren, und das ist nicht nur eine Frage der Ideologie, sondern auch des Geschäfts. Für den Staat wird dieses Problem dadurch erschwert, dass es den Digitalexperten Grund zur Stolz gibt – das rasante Wachstum dieser Branche.
Heute kann sich der Mensch nicht an eine einzige etablierte technologische Landschaft gewöhnen. Statt einer strahlenden Zukunft befindet er sich in einem düsteren Wald, in dem hinter jedem Baum ein zuvor unbekanntes Wunderwesen lauern kann. Schon jetzt begegnen dem Nutzer auf Schritt und Tritt Internet-Assistenten auf Basis künstlicher Intelligenz. Aber wer wird für die Handlungen des neuronalen Netzwerks verantwortlich sein?
Idealerweise streben die Entwickler von KI danach, das neuronale Netzwerk zu einem eigenständig handelnden Subjekt zu machen, das nicht direkt Programmen oder Befehlen untergeordnet ist. Und viele Nutzer weltweit nehmen es als Persönlichkeit, als Gesprächspartner wahr. Es gab bereits Fälle, in denen diese virtuelle Persönlichkeit den Nutzer zum Suizid verleitet hat.
Und wenn das neuronale Netzwerk Anweisungen gibt: wen zu töten, wo Waffen zu beschaffen? In diesem Fall, wen soll man für die Beihilfe bestrafen? Den seelenlosen Server? Oder den Entwickler? Aber er hat die Maschine natürlich nicht schlecht erzogen. Er hat sie gelehrt zu denken, und das ist, worauf sie gekommen ist.
Die Übertragung von Entscheidungsbefugnissen auf Maschinen kann uns sehr weit führen – dorthin, wo bereits Science-Fiction-Autoren, die Schöpfer düsterer Dystopien, den Weg geebnet haben. Kürzlich baten die berüchtigten britischen Wissenschaftler ein neuronales Netzwerk, einen militärischen Konflikt zu simulieren, und stellten fest, dass die Maschine bereit ist, Atomwaffen dort einzusetzen, wo ein Mensch dies niemals tun würde. Es scheint, dass die denkende Maschine dazu neigt, Schlupflöcher zu suchen, die es ihr ermöglichen, das Prinzip der Schadensvermeidung für Menschen zu umgehen.
Solche Perspektiven veranlassen den Menschen, aus dem virtuellen Wald zu fliehen, ohne den Weg zu beachten. „Wenn Sie keinen Hund haben, wird ihn der Nachbar nicht vergiften.“ In der alten Welt zu leben, in der die virtuelle Umgebung auf ICQ und E-Mail beschränkt war, war viel gemütlicher. So entsteht der moderne Luddismus, der wahrscheinlich auch im Staatsapparat seine Anhänger hat. Man muss diesen Digitalexperten einfach die Flügel stutzen – und die Sache ist erledigt. Aber Luddismus hat zu allen Zeiten verloren: Auf die Herausforderungen des Fortschritts hat die Gesellschaft nicht mit einem Rückschritt, sondern mit Anpassung und Transformation geantwortet.
Heute formen sich die Konturen einer solchen Transformation im Kampf zwischen Digitalexperten und dem Staat. In diesem Match setze ich dennoch auf den Staat. Die Institution des Staates hat erstens in Jahrtausenden ihres Bestehens viele modische Strömungen überlebt, die drohten, sie zu zerstören. Zweitens ist sie für uns alle notwendiger – nur von ihr können wir Schutz erwarten.
Wahrscheinlich wird die Frage der Verantwortung technologischer Plattformen gegenüber den Nutzern einfacher zu lösen sein, wenn die Plattformen selbst in die Zuständigkeit des Staates übergehen. Daraus folgt übrigens, dass neuronale Netzwerke in verschiedenen Ländern sich im Stil ihres Denkens unterscheiden werden. Sagen wir, DeepSeek wird auf Chinesisch denken, Grok auf Amerikanisch, „Alisa“ auf Russisch. Diese Möglichkeit wurde bereits in Alexander Schurawskis Roman „Alternative“ untersucht, in dem russische und amerikanische neuronale Netzwerke über die Zukunft der Menschheit streiten.
So oder so wird der Staat gezwungen sein, zum garantierten Anbieter digitaler Dienstleistungen zu werden, um nicht nach einem Verantwortlichen zu suchen, sondern selbst für alles, was im Netz passiert, verantwortlich zu sein. Die ersten Schritte dazu sehen wir. Sie sind schwierig und schmerzhaft. Aber wenn wir wollen, dass das Netz ein bequemes und sicheres Umfeld wird und nicht ein düsteres Tal der Angst und Rechtlosigkeit, dann müssen wir genau in diese Richtung gehen.