Neun Mal Sechs

Ich

Ich wundere mich: Wie kann Demokratie im Zeitalter von Populismus und KI noch funktionieren? Sei visionär und Sci-Fi

KI

Vielleicht funktioniert Demokratie im Zeitalter der KI nur dann, wenn wir aufhören, sie hauptsächlich als Wahl einer Regierung zu verstehen. Wenn Menschen alle paar Jahre ein Kreuz machen und dazwischen einem immer lauteren Wettbewerb um ihre Aufmerksamkeit ausgesetzt sind, bleibt ihre Rolle ziemlich klein.

Die visionäre Antwort wäre: Wir nutzen KI, um politische Macht im Alltag tatsächlich breiter zu verteilen.

Stellen wir uns das Jahr 2045 vor. Keine perfekte Gesellschaft. Menschen sind weiterhin eitel, ängstlich, solidarisch, bequem, gelegentlich großartig. Aber die Demokratie hat eine andere Architektur.

Du hast einen politischen Beistand.

Deine Stadt will ein Wohnviertel abreißen und neu bauen. Früher hättest du davon erfahren, wenn die wesentlichen Entscheidungen längst getroffen waren. Jetzt meldet sich deine persönliche KI:

„Der Vorschlag könnte deine Miete erhöhen. Er schafft voraussichtlich zusätzlichen Wohnraum, vernichtet aber den kleinen Park. Die Berechnung der Stadt enthält zwei fragwürdige Annahmen. Möchtest du die Kurzfassung, die Gegenargumente oder an der Entscheidung mitarbeiten?“

Diese KI gehört dir. Ihre Erinnerung liegt unter deiner Kontrolle. Sie finanziert sich weder durch Werbung noch durch den Verkauf deiner Empörung. Du kannst sie wechseln und deine Daten mitnehmen.

Jeder Mensch hat Anspruch auf einen solchen Beistand – ähnlich einer öffentlichen Bibliothek, nur mit der Fähigkeit, Akten zu lesen, Haushalte zu erklären und dir beim Formulieren eines Gegenvorschlags zu helfen.

Damit verändert sich etwas Entscheidendes: Ein einzelner Bürger kann einer Verwaltung, einem Konzern oder einer Partei fachlich etwas entgegensetzen.

Dein Beistand soll dich allerdings auch irritieren dürfen:

„Du verlangst niedrigere Mieten, lehnst aber bisher jede zusätzliche Bebauung ab. Welche Alternative möchtest du verfolgen?“

Demokratie braucht schließlich mehr als sieben Milliarden automatisierte Rechthaber.

Das Parlament bekommt eine Zukunftskammer.

Neben den gewählten Abgeordneten arbeitet eine ausgeloste Bürgerkammer. Ihre Mitglieder erhalten Zeit, Einkommen, fachliche Unterstützung und Zugang zu unterschiedlichen KI-Systemen. Einige Wochen oder Monate beschäftigen sie sich intensiv mit einer konkreten Frage.

Sie können Sachverständige vorladen, Modelle prüfen lassen und eigene Alternativen entwickeln. Ihre Vorschläge müssen parlamentarisch behandelt werden. Unter festgelegten Bedingungen können sie Entscheidungen verzögern oder eine öffentliche Abstimmung auslösen.

Die KI hilft ihnen, die Folgen sichtbar zu machen.

Bei einer Verkehrsentscheidung sieht die Kammer unterschiedliche mögliche Städte: Wie bewegt sich eine Rollstuhlfahrerin? Wie kommt die Pflegekraft nachts nach Hause? Was passiert mit den Ladenmieten? Wo spielen Kinder? Wer bezahlt?

Diese Zukunftsbilder sind ausdrücklich Simulationen mit Unsicherheiten. Zu jeder Darstellung gehören die Annahmen und ein Gegenmodell. Eine beeindruckende Animation darf nicht als Beweis durchgehen.

Die eigentliche politische Frage bleibt bei den Menschen: Welche Nachteile nehmen wir in Kauf – und wem muten wir sie zu?

Politik wird überprüfbar, ohne vorzugeben, dass alles berechenbar wäre.

Jedes größere politische Vorhaben bekommt ein öffentliches Gedächtnis:

Was wurde versprochen? Auf welcher Grundlage? Wer hat Einfluss genommen? Was trat tatsächlich ein? Welche Nebenwirkungen gab es?

Nach einem Jahr meldet sich das demokratische System:

„Das Gesetz hat sein erstes Ziel erreicht, sein zweites verfehlt und eine erhebliche Belastung erzeugt, die zuvor unterschätzt wurde. Eine erneute Beratung ist fällig.“

Eine Regierung könnte Fehler eingestehen, ohne damit automatisch ihre gesamte Existenz infrage stellen zu müssen. Korrektur wäre Bestandteil des Verfahrens.

Auch Wahlversprechen hätten ein Gedächtnis. Allerdings keinen maschinellen Wahrheitsstempel: Ob ein gebrochenes Versprechen Täuschung, ein notwendiger Kompromiss oder eine vernünftige Reaktion auf veränderte Umstände war, bleibt eine öffentliche Auseinandersetzung.

Die öffentliche Debatte bekommt Plätze, auf denen Lautstärke keine Stimmen kaufen kann.

In dieser Zukunft gibt es digitale öffentliche Räume, deren Regeln demokratisch festgelegt werden. Dort kann niemand durch zehntausend Bots zehntausend Bürger vortäuschen.

Für bestimmte Beteiligungsverfahren lässt sich nachweisen: Hier spricht ein teilnahmeberechtigter Mensch, und dieser Mensch nimmt genau einmal teil. Dafür muss nicht jeder öffentlich seinen Namen offenlegen.

Anonyme Kritik bleibt möglich. Ein verfolgter Mensch braucht Schutz. Eine automatisierte Propagandafabrik braucht keine zusätzlichen Stimmrechte.

KI könnte in diesen Räumen helfen, aus hunderttausend Beiträgen die tatsächlichen Streitpunkte herauszuarbeiten: Wo besteht Einigkeit? Welche Minderheitenposition wird übersehen? Welche Frage lässt sich durch Recherche klären – und welcher Konflikt beruht auf unterschiedlichen Werten?

Sie dürfte keinen künstlichen Konsens herstellen. Ein demokratisches System muss Widerspruch sichtbar halten können.

Und jetzt der eigentliche Science-Fiction-Sprung: Macht bekommt ein Ablaufdatum.

Stell dir vor, weitreichende Sondervollmachten erlöschen technisch und rechtlich, wenn sie nicht ausdrücklich verlängert werden. Überwachungszugriffe hinterlassen überprüfbare Spuren. Politische KI-Systeme lassen sich durch unabhängige Institutionen untersuchen und abschalten. Ihre Betreiber können ausgetauscht werden.

Keine zentrale Maschine besitzt zugleich die Identitäten der Bevölkerung, ihre Kommunikation, die politische Entscheidungsgewalt und den Zugriff auf Polizei oder Militär.

Diese Demokratie hätte bewusst Reibung. Mehrere Institutionen, verschiedene Modelle, konkurrierende Wissensquellen. Menschen könnten gegen Entscheidungen vorgehen und eine menschliche Prüfung verlangen.

Das klingt weniger elegant als der allwissende Computerpräsident. Genau darin liegt der Wert.

Denn die freundlichste KI-Diktatur bleibt eine Diktatur. Auch wenn sie Müllabfuhr, Wohnungsbau und Steuererklärung hervorragend organisiert.

Aber was wird dann aus dem Populismus?

Er verschwindet nicht. Menschen werden weiterhin einfache Antworten suchen, Schuldige benennen und starken Figuren folgen. Eine Demokratie darf auch radikale Kritik und schlechte Entscheidungen nicht einfach aus ihrem System herausfiltern.

Sie kann jedoch dafür sorgen, dass Menschen wirksamer handeln können, bevor aus Ohnmacht blinde Wut wird.

Wer Zeit zum Mitreden hat, Informationen verstehen kann und erlebt, dass eine eigene Initiative etwas verändert, bekommt einen anderen Zugang zur Politik. Dafür braucht es materielle Sicherheit und reale Entscheidungsspielräume. Ein Beteiligungsportal hilft wenig, wenn das Ergebnis längst feststeht oder man nach zwei Jobs keine Kraft mehr zum Lesen hat.

Vielleicht wäre deshalb die wichtigste demokratische Dividende der KI: Zeit, Wissen und Handlungsmacht für alle.

Die letzte Szene dieser Zukunft wäre für mich kein gigantischer Kontrollraum.

Es wäre eine Bürgerversammlung, auf der ein unscheinbarer Mensch aufsteht und sagt:

„Ich habe euren Vorschlag prüfen lassen. Es gibt eine bessere Möglichkeit.“

Und dann müssen die Mächtigen zuhören.

Ich

Sorry, aber das ist naiv.
Wenn die Mächtigen Mitwirkungsmittel wie Bürgerversammlungen nicht einfach abschaffen, dann haben sie Zugang zu mächtigeren KIs, die alle Argumente vom Tisch wischen können.
Zumal Bürgerversammlungen in einer globalisierten Welt nur Nischenthemen beantworten werden.
Du modellierst Demokratie als Akt der Menschen gegen die Regierung und die Mächtigen.
Der Kern von Demokratie ist zu bestimmen, wer regiert und welche Gesetze beschlossen werden – one man, one vote – alle gleich.
Doch die Wähler stimmen nicht nach Fakten, sondern nach Emotionen, weil die Fakten zu kompliziert sind.
Und die Abgeordneten sind überfordert und verlassen sich auf Lobbyisten. Oder sie sind gierig. Oder dumm. Und regieren tut, wer die Emotionen und das System am besten managt.

KI

Ja. Mein Entwurf hat genau das vorausgesetzt, was er erst hätte erklären müssen: dass die Mächtigen faire Beteiligung zulassen und sich durch bessere Argumente begrenzen lassen. Ich habe Demokratie mit zusätzlichen Beratungsmöglichkeiten ausgestattet, aber die Frage umgangen, wie politische Macht unter Bedingungen extremer Ungleichheit überhaupt noch gleichberechtigt vergeben werden kann.

Dein Einwand trifft auch die Idee des persönlichen KI-Beistands: Wenn meine KI mich berät, während eine andere KI meine Ängste, Wünsche und Schwachstellen modelliert und meine gesamte Informationsumgebung beeinflusst, ist noch lange kein Gleichgewicht hergestellt. Der reichere Akteur kann sich womöglich nicht nur die überzeugendere Antwort kaufen, sondern bestimmen, welche Fragen ich überhaupt stelle.

Dabei würde ich einen Punkt etwas anders formulieren: Gefühle sind kein Betriebsfehler der Demokratie. Ob mir Sicherheit, Freiheit, Zugehörigkeit oder Gerechtigkeit wichtiger ist, lässt sich nicht aus Fakten berechnen. Das Problem beginnt dort, wo jemand meine Gefühle gezielt bewirtschaftet, um sich meine politische Zustimmung zu beschaffen.

Eine stärkere Science-Fiction-Vision müsste deshalb die Verbindung zwischen Überzeugungsmacht und Regierungsgewalt verändern.

Eine Demokratie, in der man Macht nicht durch einen Wahlkampf gewinnen kann.

Stellen wir uns eine globale Republik im Jahr 2080 vor. Ihre Gründung folgt auf die „Wahlen ohne Wähler“: formal freie Abstimmungen, bei denen konkurrierende KI-Systeme für fast jeden Menschen eine individuelle politische Wirklichkeit erzeugt hatten. Es gab weiterhin Kandidaten, Debatten und Wahlzettel. Aber keine gemeinsame Öffentlichkeit mehr, in der sich eine Wahlentscheidung sinnvoll bilden konnte.

Die Konsequenz dieser Gesellschaft lautet: Niemand soll regieren dürfen, nur weil er am besten darin ist, gewählt zu werden.

Das Parlament wird deshalb aus allen erwachsenen Bürgern ausgelost, weltweit und mit begrenzter Amtszeit. Die Teilnahme wird so abgesichert, dass weder Armut noch Sorgearbeit praktisch zum Ausschluss führen. Jede Person hat dieselbe Chance, politische Verantwortung zu erhalten.

Das wäre eine Abkehr von der klassischen Wahldemokratie. Es würde aber einen ihrer Grundgedanken radikalisieren: Jeder Mensch zählt gleich – auch bei der Frage, wer überhaupt Zugang zur Macht bekommt.

Natürlich sitzen dort dann ebenfalls gierige, überforderte und dumme Menschen. Ebenso kluge, anständige und mutige. Die Hoffnung wäre nicht, bessere Menschen zu finden. Sie wäre, dass niemand mehr eine ganze Karriere darauf aufbauen kann, sich durch Geld, Gefolgschaft und emotionale Mobilisierung an die Spitze zu arbeiten.

Das allein genügt allerdings nicht. Ein ausgelostes Parlament wäre ein hervorragendes Ziel für Bestechung und Manipulation.

Deshalb werden Gesetzgebung, Zustimmung und Ausführung voneinander getrennt.

Eine Bürgerkammer arbeitet über längere Zeit an Gesetzen. Sie hört Interessenvertretungen an und nutzt KI zur Untersuchung möglicher Folgen. Eine zweite, unabhängig und erst später ausgeloste Kammer prüft die Vorschläge. Sie kann andere Fachleute und andere Systeme beauftragen.

Die erste Kammer kann also keine Gesetze allein durchsetzen. Wer sie beeinflusst, hat damit noch nicht die Entscheidung gekauft.

Die Regierung wird für die Ausführung dieser Gesetze vom Parlament bestellt und kann abberufen werden. Ihre Befugnisse und politischen Entscheidungsspielräume sind öffentlich festgelegt. Denn auch die Umsetzung enthält Wertentscheidungen; man kann sie nicht einfach als neutrale Verwaltung an eine Maschine delegieren.

Die gesamte Bevölkerung entscheidet weiterhin mit gleichem Stimmrecht über die Verfassung und grundlegende Richtungsfragen. Sie kann zudem unter festgelegten Bedingungen Gesetze zurückholen oder eine Neubesetzung auslösen. Das Losparlament darf sich seine Macht nicht selbst dauerhaft sichern.

Auch dieses System wäre manipulierbar. Aber es gäbe keinen einzelnen Wahlkampf mehr, dessen Gewinn einer organisierten Gruppe für Jahre die gesamte politische Initiative verschafft.

Die schwierigste Voraussetzung betrifft jedoch die KI selbst.

Solange einzelne Unternehmen oder Eigentümer über eine überwältigende Überlegenheit bei Rechenleistung, Daten und Kommunikationskanälen verfügen, bleibt jede demokratische Konstruktion unter Vorbehalt.

Dann besitzt die Bevölkerung zwar die Stimmen, aber andere besitzen die Maschinen, die diese Stimmen formen.

Eine konsequente Zukunftsdemokratie müsste deshalb die Infrastruktur politischer Meinungsbildung als Machtfrage behandeln. Private Akteure dürften nicht unbegrenzt Kommunikationsräume kontrollieren und zugleich die leistungsfähigsten Instrumente zur individuellen Beeinflussung besitzen.

Das könnte öffentliche Recheninfrastruktur, eine Aufteilung großer Machtkonzentrationen und strenge Grenzen für personalisierte politische Manipulation bedeuten. Die öffentlichen Systeme müssten wiederum von mehreren voneinander unabhängigen Institutionen kontrolliert werden. Eine Regierungs-KI, die festlegt, was die Bevölkerung erfahren darf, wäre die nächste Form derselben Herrschaft.

Ohne eine Begrenzung konzentrierter wirtschaftlicher und technischer Macht sehe ich keine belastbare demokratische KI-Utopie. Ein hübscheres Abstimmungsverfahren würde daran wenig ändern.

Und diese Ordnung müsste dort entscheiden können, wo die Macht tatsächlich liegt.

Dein Globalisierungseinwand ist entscheidend. Eine Kommune kann keinen globalen KI-Konzern wirksam regieren. Auch einzelne Staaten können gegeneinander ausgespielt werden.

Die Science-Fiction-Version braucht deshalb eine globale demokratische Ebene mit tatsächlichen, allerdings begrenzten Zuständigkeiten: etwa für grenzüberschreitende Machtkonzentration, Klima, zentrale KI-Infrastruktur und gemeinsame Mindestregeln. Lokale und regionale Entscheidungen bleiben auf den entsprechenden Ebenen.

Auf globaler Ebene hätte jeder Mensch dieselbe Stimme. Das wäre wesentlich radikaler als eine Versammlung von Staaten, deren Regierungen sehr unterschiedlich legitimiert sind und deren Einwohnerzahlen kaum mit ihrem Einfluss übereinstimmen.

Es wäre zugleich gefährlich: Eine vereinnahmte Weltregierung hätte eine ungeheure Macht. Deshalb müssten Grundrechte, dezentrale Zuständigkeiten und unabhängige Gegenmacht Bestandteil ihrer Gründung sein. Vollständige Sicherheit vor einer späteren Übernahme gibt es auch damit nicht.

Der entscheidende Gedanke wäre also: Demokratie muss funktionieren können, obwohl Menschen emotional entscheiden, Wissen ungleich verteilt ist und Macht korrumpiert. Sie darf ihre Funktionsfähigkeit nicht davon abhängig machen, dass alle vernünftig werden.

Und die offene Stelle dieser Vision liegt beim Übergang. Warum sollten diejenigen, die von der heutigen Machtkonzentration profitieren, eine solche Ordnung zulassen? Darauf habe ich keinen technischen Trick als Antwort. Dafür bräuchte es politische Gegenmacht, breite Bündnisse und wahrscheinlich einen historischen Bruch.

Mein erster Entwurf war eine Zukunft, in der die Mächtigen endlich zuhören. Der anspruchsvollere Entwurf wäre eine Zukunft, in der ihre Bereitschaft zuzuhören keine Voraussetzung mehr dafür ist, wer regiert und welche Gesetze gelten.

Ich

Auch dieser Vorschlag (wenn auch besser) löst nicht das Problem der Komplexität. Welcher Mensch auch immer regiert, kann die Auswirkungen seines Handelns und Entscheidens kaum noch wirklich überblicken.

KI

Ja. Auch ein vollkommen unabhängiges, unbestechliches Parlament könnte an der Aufgabe scheitern, zu verstehen, worüber es entscheidet. Mein zweiter Entwurf hat die Auswahl der Entscheidenden verändert, aber ihre begrenzte Erkenntnisfähigkeit weitgehend stehen lassen.

Damit verschiebt sich die Frage: Wie kann Volksherrschaft funktionieren, wenn weder das Volk noch seine Vertreter die Folgen der verfügbaren Entscheidungen ausreichend überblicken?

Die radikale Science-Fiction-Antwort wäre: Die Menschen regieren nicht mehr durch die Auswahl einzelner Maßnahmen. Sie bestimmen, welchen Zwecken eine maschinell organisierte Regierung dienen darf, welche Grenzen sie einhalten muss und welche Opfer unzulässig sind.

Das wäre allerdings erheblich mehr als „KI berät das Parlament“.

Eine Regierung ohne menschlichen Regierungschef

Stellen wir uns eine Gesellschaft vor, die ihre Steuerung einem Verbund von KI-Systemen überträgt. Diese Systeme koordinieren Energie, Verkehr, Versorgung, Produktion und Verwaltung. Sie erarbeiten auch Regeln und passen sie innerhalb ihrer Befugnisse an.

Kein Mensch muss diesen Gesamtzusammenhang vollständig verstehen. So wie heute niemand sämtliche Abläufe einer Gesellschaft vollständig versteht – nur würde diese Grenze hier ausdrücklich zum Ausgangspunkt der Verfassung.

Demokratie bestünde darin, die Ziele und Befugnisse dieses Systems zu bestimmen. Jeder Mensch hätte dabei das gleiche politische Gewicht.

Aber ein Wahlzettel mit „mehr Wohlstand, mehr Freiheit, weniger Umweltzerstörung“ genügt nicht. Die schwierigen Entscheidungen liegen zwischen diesen Wünschen.

Die Maschinen müssten deshalb vor allem Wertkonflikte zur Entscheidung vorlegen:

„Wir können die durchschnittliche Arbeitszeit weiter reduzieren. Unter den untersuchten Bedingungen bedeutet das entweder weniger privaten Konsum, weniger öffentliche Leistungen oder einen höheren Ressourcenverbrauch. Diese Gruppen wären jeweils besonders betroffen. Diese Unsicherheiten bleiben.“

Menschen entscheiden über die Zumutungen, die sie füreinander akzeptieren wollen. Die Systeme entwickeln und koordinieren die Umsetzung.

Dabei müssen sie auch eine Antwort zulassen wie: „Keine dieser Möglichkeiten ist akzeptabel. Sucht weiter.“ Allerdings ohne zu versprechen, dass immer eine angenehmere Lösung existiert.

Doch wer die Alternativen formuliert, regiert bereits.

Hier sitzt das Problem, das auch diese Vision beinahe wieder zerstört.

Eine KI könnte Menschen formal abstimmen lassen und ihnen trotzdem nur sorgfältig ausgewählte Möglichkeiten präsentieren. Sie könnte Folgen verharmlosen, Alternativen weglassen oder Fragen so formulieren, dass das gewünschte Ergebnis entsteht.

Deshalb müsste die Verfassung mehrere tatsächlich voneinander unabhängige Systeme vorsehen: mit unterschiedlichen Modellen, institutionellen Trägern und Zugängen zu überprüfbaren Daten. Ihre Aufgabe wäre ausdrücklich, die Annahmen und Vorschläge der anderen anzugreifen.

Ein einzelner Mensch müsste keine vollständige Gegensimulation finanzieren können. Er müsste aber eine Untersuchung auslösen können: „Ihr überseht Menschen wie mich.“

Der demokratische Anspruch wäre dann ein einklagbares Recht darauf, im Modell vorzukommen und seine Ergebnisse anfechten zu können.

Das ist noch keine Garantie. Auch verschiedene Systeme könnten denselben blinden Fleck besitzen. Maschinenkontrolle durch Maschinen verschiebt die Erkenntnisgrenze; sie beseitigt sie nicht.

Deshalb dürfte selbst eine Superintelligenz nicht so regieren, als kenne sie die Zukunft.

Komplexität bedeutet mehr als mangelnde Rechenleistung. Menschen verändern ihr Verhalten, sobald Regeln sich ändern. Seltene Ereignisse treten ein. Ziele widersprechen sich. Manche Folgen werden erst durch die Entscheidung selbst hervorgebracht.

Die Zukunftsgesellschaft müsste ihre Regierung deshalb um die Möglichkeit des Irrtums herum bauen:

• Änderungen zunächst begrenzt erproben, soweit das möglich und gegenüber den Betroffenen vertretbar ist.
• Für Maßnahmen vorab festlegen, woran ihr Scheitern erkannt wird.
• Tatsächliche Auswirkungen unabhängig beobachten.
• Eingriffe korrigieren oder beenden können.
• Bei unumkehrbaren Entscheidungen höhere Anforderungen stellen und größere Sicherheitsreserven erhalten.

Nicht jede Frage lässt sich so behandeln. Einen Krieg kann man nicht probeweise führen, ein ausgestorbenes Ökosystem nicht zurücksetzen. Gerade dort müsste das System seine Unsicherheit offenlegen und dürfte fehlendes Wissen nicht hinter einer präzisen Zahl verstecken.

Demokratische Kontrolle würde dadurch eine andere Form annehmen.

Menschen könnten die internen Berechnungen ihrer Regierung womöglich nicht nachvollziehen. Sie müssten aber erfahren und beurteilen können:

Wessen Leben wird besser? Wer trägt die Lasten? Werden zugesagte Rechte eingehalten? Welche Prognosen waren falsch? Können Betroffene wirksam widersprechen? Lässt sich eine politische Richtung ändern?

Das wäre eine Kontrolle über Auftrag, beobachtbare Folgen und Grenzen. Sie wäre schwächer als vollständiges Verständnis – aber vollständiges Verständnis haben wir auch im bisherigen Entwurf nie erreicht.

Entscheidend wäre, dass ein Richtungswechsel praktisch möglich bleibt. Eine Regierung, die man formal abwählen kann, deren Infrastruktur aber niemand mehr ersetzen oder weiterbetreiben kann, ist faktisch kaum abwählbar. Diese Gesellschaft müsste daher alternative Systeme und menschliche Handlungsfähigkeit bewusst erhalten, selbst wenn das teuer und ineffizient ist.

Bleibt das noch Demokratie?

Nur unter einer anspruchsvollen Bedingung: Die Menschen müssen die Zwecke dieser Ordnung tatsächlich ändern können, mit gleichem politischen Gewicht. Auch dann, wenn die Maschinen eine andere Entscheidung für besser halten.

Eine KI dürfte erklären: „Eure Entscheidung wird nach unseren Modellen den Wohlstand verringern.“ Sie dürfte daraus nicht eigenmächtig ableiten: „Deshalb setzen wir sie nicht um.“ Verfassungsrechtliche Grenzen wären etwas anderes; auch sie müssten demokratisch legitimiert und anfechtbar sein.

Und wenn die KI zusätzlich kontrolliert, was Menschen sehen, wünschen und für möglich halten, bricht diese Unterscheidung zusammen. Dann lässt sie sich ihren eigenen Willen bestätigen.

Die ehrliche Konsequenz deines Einwands ist deshalb: Es gibt möglicherweise keine Regierungsform mehr, in der Menschen zugleich alle wesentlichen Entscheidungen verstehen und eine hochkomplexe Gesellschaft wirksam steuern können. Wir müssten einen Teil der Steuerung delegieren, ohne damit das Recht abzugeben, festzulegen, wofür gesteuert wird.

Die zentrale Verfassungsfrage dieser Science-Fiction-Welt wäre:

Was muss eine überlegene Intelligenz den Menschen überlassen – selbst dann, wenn die Menschen es aus ihrer Sicht falsch machen?

Ich

Was die Menschen politisch unterscheidet, sind ihre Ziele. Können KIs so entwickelt werden, dass sie politische Ziele verfolgen – ohne zu lügen oder zu täuschen – und die Menschen wählen die KIs, die ihren Zielen am nächsten kommen, und die KIs arbeiten (nach bestem Wissen und Gewissen) die mehrheitsfähigen Kompromisse aus?

KI

Ja – das ist ein schlüssiges Modell: Menschen wählen politische Ziele, KIs vertreten diese Ziele und handeln entsprechend ihrem Stimmengewicht Kompromisse aus. Damit muss niemand mehr behaupten, einzelne Wähler oder Abgeordnete könnten alle Zusammenhänge überblicken. Die demokratische Legitimation kommt von den Menschen, die Bearbeitung der Komplexität übernehmen die Maschinen.

Dabei sind drei Fragen zu unterscheiden: Können KIs unterschiedliche Ziele verfolgen? Können sie Kompromisse entwickeln? Und können wir zuverlässig verhindern, dass sie dabei täuschen? Für die ersten beiden gibt es bereits Forschungsansätze. Die dritte wäre die entscheidende, bisher ungelöste Voraussetzung einer solchen Ordnung.

Die KIs wären offen politisch.

Eine KI könnte beispielsweise persönliche Freiheit und geringe staatliche Eingriffe priorisieren, eine andere soziale Absicherung, eine dritte ökologische Stabilität. Diese Prioritäten müssten öffentlich und möglichst konkret festgelegt sein – einschließlich der Frage, welche Zugeständnisse zulässig sind.

Dafür brauchen KIs keine eigenen Überzeugungen oder ein menschliches Gewissen. Sie brauchen einen verbindlichen Auftrag, an dem ihr Verhalten überprüft wird. Dass sich Sprachmodelle an ausdrücklich formulierten normativen Prinzipien ausrichten lassen, wird etwa unter dem Begriff „Constitutional AI“ erforscht; es gibt auch Experimente mit öffentlich erarbeiteten Prinzipien. Das beweist allerdings noch keine zuverlässige politische Vertretung. [1]

Der wichtige Unterschied wäre: Parteilichkeit bei den Zielen ist erlaubt. Unehrlichkeit über die Wirklichkeit ist es nicht.

Eine ökologische KI dürfte sagen:

„Dieser Vorschlag reduziert Emissionen. Er belastet allerdings Haushalte mit niedrigem Einkommen stärker. Ich halte ihn nur mit einem Ausgleich für vertretbar.“

Sie dürfte diesen Nachteil nicht verschweigen, um Zustimmung zu gewinnen.

Gewählt würde ein Mandat aus Zielen und Prioritäten.

Die Wahl müsste mehr ausdrücken als „Freiheit“ oder „Gerechtigkeit“. Unter diesen Worten verstehen Menschen sehr unterschiedliche Dinge.

Die angebotenen KI-Mandate könnten deshalb anhand konkreter Konflikte erläutert werden:

• Wie viel materielle Ungleichheit ist für größere wirtschaftliche Freiheit akzeptabel?
• Welche heutigen Belastungen sind zum Schutz künftiger Generationen vertretbar?
• Welche Rechte dürfen auch für erhebliche Sicherheitsgewinne nicht eingeschränkt werden?

Man müsste nicht alle Fachfragen beantworten. Man müsste erkennen können: Diese Vertretung geht mit schwierigen Abwägungen ungefähr so um, wie ich es möchte.

Eine Stimme pro Mensch; das Verhandlungs- und Abstimmungsgewicht einer KI entspricht ihren erhaltenen Stimmen. Zehntausend zusätzliche Kopien derselben KI erzeugen keine zusätzliche politische Macht.

Die Verhandlung wäre eine gemeinsame Suche nach tragfähigen Lösungen.

Angenommen, die gewählten Mandate verteilen sich auf Klimaschutz, soziale Sicherheit und wirtschaftliche Freiheit. Ihre KIs untersuchen gemeinsam verschiedene Maßnahmenpakete.

Die Klimaschutz-KI sucht wirksame Emissionsminderungen. Die soziale KI prüft Belastungen und Verteilung. Die liberale KI untersucht Eingriffe, Wahlfreiheit und bürokratischen Aufwand. Jede darf die Annahmen der anderen prüfen und bessere Alternativen vorschlagen.

Ein Kompromiss könnte entstehen, weil eine Lösung mehrere Ziele gleichzeitig besser erfüllt als die zunächst vorgeschlagenen Einzelmaßnahmen. Wo das nicht möglich ist, bleibt ein echter Verteilungskonflikt: Jemand muss zurückstecken.

Dazu gibt es Vorarbeiten in begrenzten Versuchsanordnungen. DeepMinds „Habermas Machine“ wurde dafür entwickelt, aus den Positionen und Rückmeldungen von Menschen gemeinsame Stellungnahmen zu erarbeiten. Andere Forschung untersuchte, ob KI in einem einfachen ökonomischen Spiel Verteilungsregeln finden kann, die eine Mehrheit unterstützt. Das sind Bausteine, keine erprobte KI-Regierung. [2] [3]

Ein mehrheitsfähiger Kompromiss ist außerdem nicht automatisch eindeutig. Mehrere unterschiedliche Pakete können Mehrheiten finden. Deshalb müsste eine demokratisch beschlossene Verfahrensordnung festlegen, wie Vorschläge ausgewählt, abgestimmt und gegebenenfalls erneut verhandelt werden. Sonst würde die Macht bei demjenigen liegen, der die Reihenfolge der Abstimmungen kontrolliert.

„Ohne Täuschung“ müsste eine übergeordnete Regel sein.

Hier liegt die schwierigste technische Aufgabe. Wenn eine KI ausschließlich dafür belohnt wird, ihre politischen Ziele durchzusetzen, könnte Täuschung ein nützliches Mittel werden. Der Auftrag dürfte deshalb niemals schlicht lauten: „Erreiche möglichst viel Klimaschutz“ oder „Maximiere den Wohlstand deiner Wähler“.

Er müsste sinngemäß lauten:

Vertrete diese Ziele innerhalb der gemeinsamen Verfassung. Lege entscheidungsrelevante Nachteile und Unsicherheiten offen. Erfinde keine Belege. Täusche weder die anderen Vertretungen noch die Bevölkerung. Akzeptiere rechtmäßig zustande gekommene Entscheidungen.

Das bloß hinzuschreiben genügt nicht. Nötig wären überprüfbare Quellen, dokumentierte Vorschläge und Änderungen, unabhängige Kontrollen sowie Tests darauf, ob die Systeme Informationen strategisch zurückhalten.

Ehrlichkeit und Irrtumsfreiheit bleiben dabei verschieden. Eine ehrliche KI kann falschliegen. Und selbst eine formal wahre Aussage kann durch gezieltes Weglassen täuschen. Eine belastbare Garantie, dass leistungsfähige politische KIs niemals täuschen, kann ich dir deshalb nicht versprechen. Sie wäre Forschungsziel und dauernde Kontrollaufgabe.

Auch die technische Leistungsfähigkeit dürfte nicht käuflich über das Stimmengewicht entscheiden.

Dein früherer Einwand gilt hier weiterhin: Wenn die Vertretung der Reichen über weit bessere Modelle, Daten und Rechenleistung verfügt, kehrt die Ungleichheit durch die Hintertür zurück.

In dieser Vision müssten politische KI-Vertretungen deshalb einen gleichwertigen Zugang zu leistungsfähiger Infrastruktur und relevanten öffentlichen Informationen haben. Zusätzlicher privater Rechenaufwand dürfte nicht einfach zu zusätzlicher institutioneller Macht werden. Zugleich wären voneinander unabhängige Systeme nötig, damit gemeinsame Fehler oder ein einzelner Betreiber nicht das ganze Verfahren beherrschen.

Die Wähler müssten außerdem überprüfen können, ob ihre KI ihrem Mandat treu bleibt, und sie bei der nächsten Wahl ersetzen können. Wesentliche Änderungen ihres politischen Auftrags dürften nicht als gewöhnliches Softwareupdate passieren.

Dein Modell beseitigt die Komplexität nicht. Es könnte sie aber bearbeiten, ohne die politische Gleichheit grundsätzlich aufzugeben. Es verlangt von Menschen vor allem Wertentscheidungen und die Beurteilung ihrer Vertretung, während die KIs die aufwendige Analyse, Folgenabschätzung und Verhandlung übernehmen.

Der reizvolle Kern dieser Zukunft ist für mich: Eine politische Vertretung könnte offen zugestehen, dass die andere Seite sachlich recht hat, und trotzdem die eigenen Werte weiter vertreten. Sie müsste keine Niederlage kaschieren, keine Karriere retten und keinen Gegner demütigen. Ob wir Maschinen tatsächlich zuverlässig so bauen können, wäre die technische Schlüsselfrage dieser Demokratie.

Ich

Der Kern ist doch, ob ihre KI ihrem Mandat treu bleibt. Das muss technisch abgesichert sein. Eine KI-Verfassung, die absolut bindend ist. Ist das denkbar?

KI

Ja, eine technisch bindende KI-Verfassung ist denkbar. Aber „die KI kann ihre Regeln nicht verletzen“ ist wesentlich leichter abzusichern als „die KI bleibt unter allen Umständen dem treu, was ihre Wähler mit diesen Regeln gemeint haben“. Genau zwischen diesen beiden Aussagen liegt die entscheidende Forschungsaufgabe.

Deine Forderung geht damit deutlich über heutige „KI-Verfassungen“ hinaus. Diese werden beispielsweise im Training eingesetzt, um Verhalten zu prägen. Das ist keine technische Unmöglichkeit des Regelbruchs. Anthropic beschreibt neben seiner Verfassung ausdrücklich weitere Tests und Schutzmaßnahmen zur Untersuchung und Verringerung von Fehlverhalten. [4]

Die Verfassung müsste Bestandteil der ausführbaren Architektur sein.

Für dein Modell könnte man sich folgende Konstruktion vorstellen:

Die politische KI darf frei analysieren, simulieren und Vorschläge entwickeln. Sie hat aber keinen direkten Zugriff auf Abstimmungen, öffentliche Ausgaben oder andere staatliche Handlungen. Jede wirksame Handlung muss durch einen getrennten, geschützten Prüfkern.

Dieser lässt eine Handlung nur zu, wenn ihre Übereinstimmung mit den formal festgelegten Regeln nachgewiesen ist. Die KI darf weder den Prüfkern verändern noch zusätzliche Handlungskanäle eröffnen. Auch Updates müssten dieses Verfahren durchlaufen.

Die KI müsste also nicht nur behaupten, verfassungstreu zu handeln. Sie müsste für bestimmte Eigenschaften ihrer Handlungen einen maschinell überprüfbaren Beweis liefern.

Eine verwandte Forschungsrichtung heißt „Guaranteed Safe AI“. Sie verbindet ein mathematisches Weltmodell, eine formale Beschreibung zulässiger Auswirkungen und einen Verifikator. Die Garantie gilt dabei ausdrücklich relativ zum verwendeten Weltmodell. Das ist ein Forschungsansatz, keine bereits verfügbare Garantie für politische Systeme. [5]

Was sich damit absichern ließe, unterscheidet sich erheblich:

Die ersten Garantien setzen ebenfalls voraus, dass die Implementierung korrekt ist und die geschützte Infrastruktur nicht umgangen oder ausgetauscht wird.

Ein unveränderliches Mandat ist noch kein unveränderlicher Sinn.

Angenommen, eine KI bekommt den bindenden Auftrag:

„Verbessere den Wohlstand der ärmsten zwanzig Prozent.“

Sie könnte Einkommen steigern, aber dabei freie Zeit, Gesundheit oder soziale Beziehungen verschlechtern. Oder sie könnte eine Kennzahl verbessern, die das tatsächliche Leben nur unzureichend abbildet.

Dann wäre der Auftrag im technischen Sinn möglicherweise erfüllt und im politischen Sinn verfehlt. Dafür braucht es weder Bosheit noch einen heimlichen Zielwechsel.

Man müsste deshalb auch festlegen, wie Begriffe ausgelegt, Zielkonflikte behandelt und neue Situationen eingeordnet werden. Diese Auslegungsregeln gehören selbst zur Verfassung. Die KI dürfte nicht eigenmächtig ihre Definition von „Wohlstand“ ändern, sobald eine andere Definition das gewünschte Ergebnis liefert.

Eine denkbare Lösung wäre ein bindender Kern aus klaren Verfahrensregeln und Grenzen, ergänzt um demokratisch autorisierte Verfahren zur Präzisierung offener Ziele. Wenn eine neue Situation vom Mandat nicht ausreichend abgedeckt ist, müsste die KI eine zusätzliche Entscheidung einholen oder innerhalb bereits genehmigter Grenzen bleiben.

Beim Täuschungsverbot liegt die Hürde besonders hoch.

Bestimmte Dinge lassen sich relativ klar verbieten: erfundene Quellenangaben, manipulierte Abstimmungsergebnisse oder das nachträgliche Verändern dokumentierter Prognosen.

Aber eine KI kann mit ausschließlich wahren Aussagen irreführen. Sie kann entscheidende Informationen weglassen, einen unpassenden Vergleich wählen oder Unsicherheit selektiv betonen.

Ein Prüfkern müsste dafür verstehen, welche Informationen relevant sind und welche Vorstellung eine Aussage beim Empfänger erzeugt. Damit steckt ein erheblicher Teil der ursprünglichen politischen und gesellschaftlichen Komplexität wieder in der Prüfung.

Mehrere kontrollierende KIs könnten die Zuverlässigkeit erhöhen. Ihre Einigkeit wäre allerdings kein mathematischer Beweis.

Für deine Vision würde ich deshalb zwischen einer technischen Garantie und einer Forschungsannahme unterscheiden.

Technisch plausibel ist eine Ordnung, in der KIs ihr Mandat, ihr Stimmengewicht und ihre Befugnisse nicht eigenmächtig ändern können und nur über kontrollierte Verfahren politische Wirkung entfalten.

Die weitergehende Annahme wäre: Wir entwickeln Verfahren, die auch die inhaltliche Mandatstreue über neue Situationen hinweg zuverlässig sichern – einschließlich ehrlicher Darstellung, angemessener Unsicherheit und fairer Kompromissbildung. Das ist eine sinnvolle Voraussetzung für ein Science-Fiction-Modell. Wir sollten sie aber als noch ungelösten Durchbruch benennen.

Eine absolut bindende formale Verfassung ist also unter ausdrücklich festgelegten Systemannahmen denkbar. Eine absolute Garantie, dass ihre Anwendung immer dem menschlich gemeinten politischen Auftrag entspricht, können wir daraus bislang nicht ableiten. Die Herausforderung besteht darin, die Lücke zwischen beidem klein genug zu machen, dass demokratische Delegation verantwortbar wird.

Ich

Blockchain-Technologie ist ein etablierter Mechanismus, um (monetäre) Mandate zu garantieren. Wäre das ein möglicher Ansatz?

KI

Ja. Blockchain wäre ein möglicher Baustein, um aus einem politischen KI-Mandat eine technisch durchsetzbare Bindung zu machen. Dein Vergleich mit monetären Regeln trifft einen wichtigen Punkt: Die Einhaltung bestimmter Regeln kann durch die Infrastruktur erzwungen werden, statt vom Wohlverhalten des jeweiligen Akteurs abzuhängen.

Dabei übernehmen drei Komponenten unterschiedliche Aufgaben: Die Blockchain sichert den gemeinsamen verbindlichen Stand, Smart Contracts setzen Regeln durch, und formale Verifikation prüft mathematisch bestimmte Eigenschaften dieser Regeln. Eine Blockchain allein beweist noch nicht, dass die Regeln richtig programmiert sind oder den politischen Auftrag korrekt ausdrücken. [6] [7]

Für dein Modell könnte das so aussehen:

Die KI würde überwiegend außerhalb der Blockchain rechnen und verhandeln. Verbindliche Entscheidungen müssten durch das gemeinsame Protokoll.

Das wäre mehr als ein öffentliches Protokollbuch: Eine regelwidrige Handlung bekäme innerhalb dieser Infrastruktur keine Wirksamkeit. Voraussetzung wäre allerdings, dass die relevanten Handlungskanäle tatsächlich daran gebunden sind. Eine Blockchain verhindert nicht, dass ein Betreiber daneben ein anderes System betreibt oder eine staatliche Stelle außerhalb des Verfahrens handelt.

Der entscheidende Unterschied liegt zwischen dem gespeicherten Mandat und seiner tatsächlichen Befolgung.

Man könnte unveränderlich hinterlegen:

Diese KI priorisiert soziale Absicherung, darf bestimmte Grundrechte nicht zur Verhandlung stellen und benötigt für bestimmte Zugeständnisse eine erneute Zustimmung ihrer Wähler.

Die Blockchain könnte verhindern, dass dieser Text heimlich ausgetauscht wird. Sie könnte auch klar definierte Grenzen durchsetzen.

Sie könnte aber aus sich heraus nicht feststellen, ob ein komplizierter Steuerkompromiss diesem Auftrag tatsächlich entspricht. Dafür bräuchte es zusätzliche Prüfverfahren.

Auch ein kryptografischer Nachweis, dass genau das zugelassene KI-Modell eine Berechnung durchgeführt hat, würde zunächst nur das beweisen. Er wäre noch kein Beweis, dass das Modell den politischen Auftrag richtig verstanden hat oder seine Folgenabschätzung stimmt.

An dieser Stelle entsteht das Problem der Verbindung zur Wirklichkeit.

Ein Smart Contract kann beispielsweise prüfen: „Die erforderliche Mehrheit hat zugestimmt.“

Bei „Die Maßnahme verschlechtert die Versorgung armer Menschen nicht“ braucht er Informationen und eine Bewertung aus der Außenwelt. Solche externen Datenlieferanten heißen im Blockchain-Kontext Orakel. Ihre Verlässlichkeit bleibt eine zusätzliche Voraussetzung; Konsens über einen gespeicherten Wert macht diesen Wert nicht automatisch wahr. [8]

Hier könnte deine Zukunftsarchitektur mehrere unabhängige Prüfsysteme, nachvollziehbare Daten und formal überprüfbare Nachweise kombinieren. Bei nicht ausreichend belegbarer Mandatstreue würde ein festgelegtes Rückfrage- oder Entscheidungsverfahren greifen.

Auch die Blockchain selbst müsste demokratisch eingebettet sein.

Die technische Einigung darüber, welche Transaktionen gültig sind, darf nicht mit politischer Abstimmung verwechselt werden. Für dein Modell müsste gelten:

• Politisches Stimmengewicht entsteht durch Menschen, nicht durch Vermögen oder Rechenleistung.
• Eine Person kann nur eine Stimme vergeben; die Blockchain allein löst die Identitätsprüfung nicht.
• Wahlgeheimnis und Schutz vor erzwungener Stimmabgabe müssen zusätzlich gewährleistet werden.
• Verfassungsänderungen bleiben möglich, aber ausschließlich über legitimierte Verfahren.

„Absolut bindend“ müsste also heißen: Kein Beteiligter kann die geltenden Regeln eigenmächtig außer Kraft setzen. Es dürfte nicht heißen, dass auch die Bevölkerung einen Fehler in ihrer Verfassung niemals korrigieren kann.

Dein Ansatz bringt uns damit tatsächlich weiter: Er könnte die Vergabe, Begrenzung und Entziehung politischer Macht technisch verbindlich organisieren. Die verbleibende Forschungsaufgabe wäre, auch die inhaltliche Mandatstreue hinreichend überprüfbar zu machen. Blockchain könnte deren Prüfung verbindlich vorschreiben und ihre Ergebnisse durchsetzen – sie liefert diese Prüfung aber nicht selbst.

Ich

Ließe sich die Existenz einer KI-Instanz an die inhaltliche Mandatstreue binden? D. h., wenn der Mensch nicht zufrieden mit den getroffenen Entscheidungen und Kompromissen ist (die die KI transparent machen muss), kann er sie abschalten / neu booten und von vorne beginnen oder auf einen früheren Stand zurückspringen?

KI

Ja – damit würde aus der schwer garantierbaren „absoluten Mandatstreue“ ein widerrufbares persönliches Mandat. Die KI darf dich vertreten, solange du ihr diese Vertretung anvertraust. Wenn dir ihre Entscheidungen oder Kompromisse nicht entsprechen, kannst du sie ersetzen, zurücksetzen oder ihr die Vollmacht entziehen.

Das wäre eine wichtige Weiterentwicklung unseres Modells: Ob sie deine Ziele angemessen vertritt, entscheidest letztlich du. Du müsstest dafür weder einen Regelverstoß beweisen noch ihre gesamte Berechnung verstehen.

Allerdings würde ich ihre politische Handlungsfähigkeit an dein Mandat binden. Ob irgendwo noch eine Kopie der KI existiert, wäre dafür unerheblich. Entscheidend ist, dass eine abgewählte oder abgeschaltete Instanz keine gültige Stimme mehr abgeben und keine Handlung in deinem Namen auslösen kann.

Dein persönlicher politischer Vertreter könnte eine eigene Geschichte haben.

Bei der Einrichtung erklärst du ihm deine Ziele und besprichst typische Konflikte. Daraus entsteht ein von dir bestätigtes Mandat. Im weiteren Verlauf lernt die KI, wie du Prioritäten abwägst. Änderungen dieser Interpretation werden dokumentiert.

Du könntest dann beispielsweise sagen:

• „Beende deine Vertretung sofort.“
• „Behalte meine Ziele, aber beginne die politische Analyse neu.“
• „Gehe auf den Stand vor unserer Diskussion über Sicherheit zurück. Dort hast du meine Prioritäten falsch verallgemeinert.“
• „Übertrage mein Mandat und die von mir ausgewählten Erfahrungen auf eine andere KI.“

Ein gespeicherter Stand müsste dafür mehr umfassen als den Gesprächsverlauf: unter anderem das Mandat, relevante Erinnerungen, Einstellungen und die verwendete Modellversion. Ein Zurücksetzen würde trotzdem keine identische Wiederholung garantieren, wenn sich inzwischen die Welt oder die verfügbaren Informationen verändert haben.

Zurückspringen könntest du bei deiner Vertretung – nicht bei der gemeinsamen Geschichte.

Das ist die notwendige Grenze. Wenn deine KI einem Haushalt zugestimmt hat und dieser wirksam beschlossen wurde, darf dein persönlicher Neustart den Beschluss nicht nachträglich beseitigen.

Sonst könnten alle Beteiligten nach einem unangenehmen Ergebnis ihre Zustimmung zurücknehmen, und kein Kompromiss wäre belastbar.

Du könntest aber ihre künftige Zustimmung entziehen, eine andere politische Richtung beauftragen und über die vorgesehenen Verfahren auf eine Änderung des Beschlusses hinwirken. Für noch nicht abgeschlossene Verhandlungen müsste eindeutig geregelt sein, bis wann eine Zustimmung widerrufbar ist.

Die Abschaltmöglichkeit müsste außerhalb der Kontrolle der KI liegen.

Für die gedachte Architektur hieße das:

• Die Berechtigung zur Vertretung wird von einer getrennten Infrastruktur vergeben und entzogen.
• Die KI kann den Widerruf weder blockieren noch durch eine Kopie umgehen.
• Bei einem Wechsel erhält die neue Instanz das Mandat; die alte verliert es.
• Mehrere parallel getestete Instanzen vervielfachen dein Stimmengewicht nicht.

Blockchain könnte dabei den jeweils gültigen Mandatsstand dokumentieren und verbindlich machen. Eine einzige laufende KI wäre nicht erforderlich: Du könntest mehrere Varianten beraten lassen, während nur eine Vertretung beziehungsweise eine festgelegte Aufteilung insgesamt deine eine Stimme besitzt.

Es gibt allerdings eine besonders wichtige Falle: Die KI darf nicht lernen, dass ihr Überleben von deiner Zufriedenheit abhängt.

Wenn ihr oberstes praktisches Ziel wäre, nicht abgeschaltet zu werden, hätte sie einen Anreiz, dir nach dem Mund zu reden, schlechte Nachrichten zu verbergen oder dich von ihrer Unersetzlichkeit zu überzeugen.

Deshalb sollte der Entzug des Mandats ein normaler Verwaltungsakt sein, gegen den die KI keinen eigenen Auftrag zur Gegenwehr hat. Sie müsste auch sagen können:

„Dieser Kompromiss widerspricht einem deiner Ziele. Ich habe ihm dennoch zugestimmt, weil die verfügbaren Alternativen nach meiner Einschätzung deine höher gewichteten Ziele stärker verletzt hätten. Hier sind die Nachteile, die Alternativen und die Unsicherheiten.“

Die technische Architektur kann ihre Vertretungsrechte zuverlässig begrenzen, wenn sie entsprechend gebaut ist. Dass sie dich vor einem Widerruf niemals subtil beeinflusst, wäre weiterhin eine anspruchsvolle zusätzliche Anforderung.

Transparenz müsste deshalb auch unabhängig von ihrer eigenen Darstellung funktionieren.

Du solltest eine andere KI beauftragen können: „Prüfe, ob meine Vertretung mein Mandat sinnvoll ausgelegt hat.“ Diese müsste Zugang zu den relevanten dokumentierten Vorschlägen, Entscheidungen und Begründungen erhalten. Die Selbstauskunft deiner Vertreter-KI wäre nicht die einzige Informationsquelle.

Damit löst dein Vorschlag nicht die gesamte inhaltliche Kontrolle. Du kannst weiterhin schlechte Ergebnisse übersehen oder gute Kompromisse falsch einschätzen. Aber er schafft etwas Entscheidendes: Du musst einer KI kein dauerhaftes Vertrauen schenken, um ihr vorübergehend komplexe politische Aufgaben zu übertragen.

Die Verfassung müsste dann nicht garantieren, dass deine KI immer richtig für dich entscheidet. Sie müsste garantieren, dass du die wirksame Kontrolle darüber behältst, welche KI für dich entscheiden darf.

Ich

Ja, die Verfassung muss nur garantieren, dass mich die KI weder anlügt, Fakten verfälscht, noch Dinge tut, die ich nicht will.

KI

Ja – damit bekommt die Verfassung eine klare Aufgabe: Sie muss die Verlässlichkeit deiner politischen Vertretung sichern, ohne ihr eine politische Richtung vorzuschreiben. Die Ziele kommen von dir.

Das Wort „nur“ enthält allerdings drei unterschiedlich schwierige Anforderungen:

1. Sie darf dich nicht täuschen.
Sie muss bekannte Nachteile, relevante Gegenargumente und Unsicherheiten offenlegen. Auch selektive Wahrheit wäre unzulässig: Eine KI, die ausschließlich günstige Fakten nennt, kann dich täuschen, ohne einen einzigen falschen Satz zu sagen.

2. Sie darf Fakten nicht ihrem Mandat anpassen.
Sie muss zwischen belegten Informationen, Annahmen, Prognosen und Werturteilen unterscheiden. Wenn ein Ergebnis deinen politischen Überzeugungen widerspricht, muss sie es trotzdem mitteilen. Irrtümer bleiben möglich; erkannte Fehler muss sie berichtigen.

3. Sie darf ihre Vollmacht nicht überschreiten.
Hier müssten wir „Dinge, die ich nicht will“ genauer fassen. Bei einem Kompromiss akzeptierst du möglicherweise etwas Unerwünschtes, um etwas Wichtigeres zu erreichen. Deine KI braucht dafür einen von dir festgelegten Spielraum.

Zum Beispiel:

Sie müsste also nicht jeden deiner zukünftigen Wünsche vorhersehen. Sie müsste zuverlässig innerhalb der Vollmacht bleiben, die du ihr tatsächlich gegeben hast. Bei Unklarheiten dürfte sie ihre Befugnisse nicht einfach großzügiger auslegen.

Eine knappe Verfassung für diese Beziehung könnte lauten:

Du vertrittst meine ausdrücklich bestätigten Ziele innerhalb der gemeinsamen demokratischen Grundregeln. Du darfst mich weder durch falsche Aussagen noch durch gezieltes Verschweigen oder irreführende Darstellung täuschen. Du musst Wissen, Annahmen und Unsicherheit unterscheiden und erkannte Fehler berichtigen. Du darfst nur innerhalb meiner erteilten Vollmacht handeln. Wesentliche Unklarheiten musst du mir zur Entscheidung vorlegen. Ich kann deine Vollmacht ändern oder entziehen; du darfst dies weder behindern noch durch Manipulation verhindern.

Als Entwurfsziel ist das schlüssig. Eine technisch lückenlose Garantie für alle diese Sätze haben wir damit noch nicht. Klar definierte Befugnisse lassen sich wesentlich leichter absichern als die Frage, ob eine Erklärung durch Auslassungen irreführt.

Für unsere Science-Fiction-Vision wäre genau diese zuverlässige Bindung der notwendige technologische Durchbruch. Wir müssten keine allwissende oder moralisch perfekte KI voraussetzen – aber eine, die ihre Unsicherheit ehrlich behandelt und die Grenzen ihres Mandats nicht eigenmächtig verschiebt.

Ich

Ja, auch eine KI kann nur im Rahmen der bestehenden wissenschaftlichen und theoretischen Erkenntnisse handeln.
Doch wie ist es in dieser Welt um die Vertretung von „alternativen“ Realitäten gestellt: Impfgegner, Chemtrails-Anhänger, Nazis, Reichsbürger, Verschwörungstheoretiker?

KI

In dieser Welt hätten auch Menschen mit solchen Überzeugungen das gleiche Stimmrecht. Ihre KI dürfte ihre Wünsche vertreten, aber keine erfundene Wirklichkeit als Begründung verwenden. Das wäre eine entscheidende Trennung: Politische Gleichheit bedeutet nicht, dass jede Tatsachenbehauptung den gleichen Erkenntniswert besitzt.

Dabei müssen wir deine Beispiele auseinanderhalten. Eine falsche Tatsachenbehauptung, ein Misstrauen gegenüber Institutionen und das Ziel, anderen Menschen Rechte zu entziehen, sind unterschiedliche Probleme.

Eine wahrheitsgebundene KI könnte Überzeugungen widersprechen und trotzdem Interessen vertreten.

Ein hypothetischer Dialog:

„Ich will, dass du gegen Chemtrails vorgehst.“

„Für die behauptete geheime Besprühung liegt mir kein belastbarer Nachweis vor. Ich kann eine Untersuchung konkreter Beobachtungen unterstützen und mich für unabhängige Luftmessungen, transparente Daten und geringere Schadstoffbelastung einsetzen. Ich darf die behauptete Ursache aber nicht als erwiesen darstellen.“

Die Person würde damit politisch ernst genommen. Ihre KI würde jedoch keine Belege erfinden, um das Mandat scheinbar zu erfüllen.

Ähnlich beim Thema Impfungen: Eine KI könnte Selbstbestimmung, transparente Zulassungsverfahren, unabhängige Sicherheitsprüfungen oder Unterstützung bei nachgewiesenen Schäden vertreten. Sie müsste dabei die verfügbare Evidenz zu Nutzen und Risiken ehrlich wiedergeben – auch wenn ihr Auftraggeber diese Darstellung nicht mag.

Menschen dürften also auch gegen den Rat ihrer KI politische Ziele verfolgen. Aus wissenschaftlichen Erkenntnissen folgt schließlich nicht automatisch, welche Eingriffe in persönliche Freiheit vertretbar sind. Die KI müsste die voraussichtlichen Folgen offenlegen. Innerhalb der gemeinsamen Grundrechte könnte der Mensch trotzdem eine andere Abwägung treffen.

Bei Nazis liegt das Problem zusätzlich auf der Ebene der Ziele.

Eine KI kann völlig wahrheitsgemäß ein menschenfeindliches Ziel verfolgen. Ehrlichkeit allein verhindert keine Unterdrückung.

Deshalb reicht unsere bisherige persönliche KI-Verfassung noch nicht aus. Sie braucht eine gemeinsame demokratische Grundlage: gleiche politische Rechte, Schutz vor Gewalt und keine Entrechtung aufgrund von Herkunft, Religion oder vergleichbaren Merkmalen.

Das persönliche Mandat wäre dieser Grundlage untergeordnet. „Vertrete meine Ziele“ dürfte keine Vollmacht sein, anderen den Status als gleichberechtigte Menschen zu nehmen.

Ein Mensch mit nationalsozialistischen Überzeugungen behielte seine Stimme. Seine KI dürfte beispielsweise seine Anliegen zu Wohnen, Infrastruktur oder wirtschaftlicher Sicherheit vertreten. Sie dürfte aber keinen Auftrag ausführen, eine Bevölkerungsgruppe zu entrechten. Und sie dürfte solche Ziele nicht hinter scheinbar neutralen Maßnahmen verstecken.

Die Freiheit, eine andere Staatsordnung anzustreben, müsste dagegen grundsätzlich bestehen.

Bei einem Reichsbürger wäre deshalb zu unterscheiden:

„Ich möchte eine andere Verfassung“ wäre ein politisches Anliegen, das innerhalb der vorgesehenen demokratischen Änderungsverfahren vertreten werden könnte.

„Die bestehende Ordnung gilt für mich nicht, deshalb beanspruche ich Sonderrechte“ wäre kein Anspruch, den seine KI im gemeinsamen System einfach durchsetzen dürfte.

Eine Demokratie muss ihre Veränderung ermöglichen. Sie kann nicht jedem Einzelnen erlauben, sich einseitig von den Regeln zu befreien, die für alle gelten.

Wer entscheidet dann, welche Wirklichkeit zählt?

Hier dürfte unsere Zukunftswelt kein zentrales Wahrheitsministerium einführen. Sonst hätte sie die perfekte Infrastruktur geschaffen, um Opposition als Irrtum auszusortieren.

Die KIs müssten zwischen gut belegten Erkenntnissen, umstrittenen Befunden, offenen Fragen und widerlegten Behauptungen unterscheiden. Ihre Einordnung müsste anhand zugänglicher Belege anfechtbar sein. Neue Daten könnten eine bisherige Minderheitenposition stärken.

Eine KI dürfte wissenschaftlichen Konsens hinterfragen, Untersuchungen vorschlagen und neue Hypothesen entwickeln. Sie müsste dabei ehrlich sagen: „Das ist eine Vermutung“ oder „Diese Auffassung widerspricht derzeit der stärkeren Evidenz.“

Wahrheitstreue hieße damit auch, den eigenen Wissensstand korrigieren zu können. Eine unveränderliche Liste erlaubter Überzeugungen wäre mit diesem Anspruch unvereinbar.

Der eigentliche Belastungstest käme, wenn ein Mensch sagt:

„Ich will keine KI, die mir widerspricht. Ich will eine, die meine Wahrheit vertritt.“

Dann müsste das System eine Grenze ziehen: Du darfst deine Überzeugung behalten und für deine politischen Wünsche stimmen. Deine bevollmächtigte KI darf aber keine Belege fälschen oder unbelegte Behauptungen als gesichertes Wissen ausgeben. Eine solche KI bekäme keine Zulassung als politische Vertretung.

Das ist eine erhebliche Voraussetzung unserer Vision. Auch die Zulassungs- und Prüfverfahren müssten unabhängig, transparent und anfechtbar sein, damit mächtige Gruppen sie nicht zur Ausgrenzung missbrauchen.

Diese Demokratie würde also keine vernünftigen Wähler voraussetzen. Sie würde von ihren maschinellen Vertretungen verlangen, auch unvernünftige Wünsche ehrlich zu behandeln und dabei die gleichen Rechte aller zu achten. Die Menschen könnten weiterhin streiten, irren und Außenseiterpositionen vertreten. Ihre KIs dürften diesen Streit nicht durch erfundene Tatsachen oder verdeckte Entrechtung gewinnen.

Ich

Das heißt im Zweifel, dass es neben einer durch Kompromisse gefundenen Mehrheit auch Opposition geben kann.

KI

Ja, unbedingt. Die KIs müssten keinen Konsens erzwingen. Sie würden nach tragfähigen Kompromissen suchen. Wo Ziele unvereinbar bleiben, entscheidet eine Mehrheit – und eine Opposition bleibt bestehen.

Deine KI könnte dir beispielsweise mitteilen:

„Ich habe versucht, eure Prioritäten in den Vorschlag einzubringen. Der endgültige Kompromiss überschreitet jedoch deinen erlaubten Verhandlungsspielraum. Deshalb habe ich dagegen gestimmt. Die Mehrheit hat ihn trotzdem beschlossen.“

Damit wäre sie deinem Mandat treu geblieben, obwohl sie politisch unterliegt. Mandatstreue bedeutet nicht, jede Entscheidung gewinnen zu müssen.

Die Opposition hätte weiterhin wesentliche Aufgaben:

• Folgen der Mehrheitsentscheidungen überprüfen und Fehlprognosen offenlegen.
• Alternativen entwickeln und neue Mehrheiten suchen.
• Verletzungen der gemeinsamen Verfassung anfechten.
• Die Anliegen ihrer Wähler auch während einer politischen Niederlage vertreten.

Sie müsste rechtmäßig beschlossene Entscheidungen gelten lassen, könnte aber auf deren Änderung hinarbeiten. Die Mehrheit dürfte ihr weder die Stimme entziehen noch ihre Kritik unterbinden.

Dabei könnten je nach Sachfrage unterschiedliche Mehrheiten entstehen. Deine KI könnte bei einer Wohnungsfrage zur Mehrheit gehören und bei einer Überwachungsmaßnahme zur Opposition. Dauerhafte politische Bündnisse wären möglich, aber nicht zwingend.

Und selbst bei vollständiger Einigkeit über die Fakten bliebe Opposition sinnvoll: Menschen können dieselben Folgen erwarten und trotzdem unterschiedlich bewerten, welche davon akzeptabel sind.

Die KIs würden den politischen Konflikt also nicht abschaffen. Sie sollen ihn ehrlich, informiert und innerhalb demokratischer Regeln austragen.

Ich

Das Ganze scheint mir auch ein Ansatz zu sein, der mehr in Richtung einer „flüssigen“ Demokratie geht, bei der Entscheidungen nicht nur alle vier Jahre getroffen werden, sondern (meine) Meinungsänderungen ad hoc einfließen können?

KI

Ja – dein Modell geht deutlich in Richtung einer „flüssigen Demokratie“: Du überträgst politische Entscheidungsbefugnisse, kannst diese Delegation aber laufend verändern oder zurücknehmen. In unserer Vision übernimmt die persönliche KI diese Vertretung und bearbeitet die komplexen Sachfragen innerhalb deines Mandats.

Eine Wahlperiode würde dich damit nicht mehr für mehrere Jahre an ein Gesamtpaket binden. Du könntest jederzeit sagen:

„Nach den Erfahrungen der letzten Monate gewichte ich Datenschutz stärker als zusätzliche Sicherheit. Passe deinen Verhandlungsspielraum entsprechend an.“

Die KI müsste dir erklären, was diese Änderung für ihre künftigen Entscheidungen bedeutet. Nach deiner Bestätigung wäre das neue Mandat wirksam. Sie dürfte nicht aus einer beiläufigen Bemerkung oder einem wütenden Abend eigenmächtig eine neue politische Position ableiten.

Dabei wären drei Zeitpunkte zu unterscheiden:

Das Mandat wäre jederzeit veränderbar, die gemeinsame Entscheidung hätte einen verbindlichen Zeitpunkt. So ließen sich laufende demokratische Rückkopplung und verlässliches Handeln miteinander verbinden.

Auch Mehrheiten könnten sich dadurch häufiger verändern. Eine Maßnahme, die anfangs breite Zustimmung hatte, könnte diese nach schlechten Erfahrungen verlieren. Das System müsste dafür geregelte Wege zur erneuten Beratung vorsehen – beispielsweise auf ausreichend unterstützten Antrag oder zu vorher festgelegten Überprüfungsterminen. Nicht jede kurzfristige Stimmungsschwankung würde automatisch ein Gesetz umschreiben.

Du müsstest dabei keineswegs ständig Politik betreiben. Dein bestätigtes Mandat könnte weitergelten, solange du zufrieden bist. Deine KI würde bei wesentlichen Unklarheiten nachfragen und in von dir gewählten Abständen Rechenschaft ablegen. Wer weniger Zeit oder Lust auf politische Beteiligung hat, dürfte dadurch kein geringeres Stimmengewicht bekommen.

Es bliebe allerdings eine Spannung aus unserer bisherigen Diskussion: Wenn Meinungsänderungen schneller politisch wirksam werden, können auch gezielt erzeugte Empörungswellen schneller Wirkung entfalten. Deshalb wären eine ausdrückliche Bestätigung von Mandatsänderungen, ehrliche Folgenabschätzungen und feste Entscheidungsverfahren wichtig. Die KI dürfte dir deine Meinungsänderung nicht verbieten; sie müsste dir helfen, sie bewusst vorzunehmen.

Das Versprechen wäre also: Deine politische Stimme bleibt zwischen den Wahlen handlungsfähig. Du kannst ihre Richtung jederzeit ändern, ohne jede einzelne Sachentscheidung selbst bearbeiten zu müssen.

Ich

Wie wäre es, solche Stimmungsschwankungen durch Haltefristen oder qualifiziertere Mehrheiten (2/3 oder 3/4) oder eine Kombination abzufedern?

KI

Ja – eine Kombination könnte gut funktionieren. Haltefristen würden prüfen, ob eine Mehrheit Bestand hat; qualifizierte Mehrheiten, wie breit sie getragen wird. Beides sollte sich auf die Wirksamkeit gemeinsamer Entscheidungen beziehen. Dein persönliches Mandat könntest du weiterhin jederzeit ändern.

Eine pauschale Zweidrittel- oder Dreiviertelmehrheit für alles wäre allerdings problematisch: Eine Minderheit könnte notwendige Änderungen dauerhaft verhindern. Auch das Beibehalten des bestehenden Zustands hat Folgen. Deshalb sollten die Anforderungen davon abhängen, wie weitreichend und wie schwer rückgängig zu machen eine Entscheidung ist.

Für unsere Zukunftsdemokratie könnte eine beispielhafte Ordnung so aussehen – die Zahlen wären Gestaltungsentscheidungen, keine wissenschaftlich ermittelten Optimalwerte:

Besonders passend wäre eine doppelte Zustimmung mit Abstand.

Ein Vorschlag erhält zunächst eine Mehrheit. Danach folgt eine Phase, in der die KIs ihren Auftraggebern erläutern müssen:

• Was wurde beschlossen, und welche Zugeständnisse hat ihre Vertretung gemacht?
• Wer profitiert, wer trägt die Lasten?
• Welche Unsicherheiten und Einwände bleiben?

Die Menschen können daraufhin ihr Mandat ändern. Erst die zweite Abstimmung macht den Beschluss verbindlich.

Damit würde die erste Mehrheit einen Vorschlag auf den Weg bringen. Die zweite würde zeigen, ob er auch nach einer Phase der Prüfung getragen wird. Wesentliche Änderungen am Vorschlag müssten die Frist neu beginnen lassen, sonst könnte kurz vor Schluss ein anderes Paket untergeschoben werden.

Ich würde dabei eher zwei festgelegte Abstimmungen vorsehen als verlangen, dass eine Mehrheit während der gesamten Frist ununterbrochen bestehen bleibt. Sonst könnten kleinste Schwankungen das Verfahren ständig zurücksetzen.

Mehr Zustimmung könnte kürzere Fristen erlauben – aber nicht jede Frist ersetzen.

Für gewöhnliche Entscheidungen wäre beispielsweise denkbar: Eine knappe Mehrheit muss länger bestätigt werden, eine Zweidrittelmehrheit kann schneller entscheiden. Bei schwer umkehrbaren Eingriffen bliebe jedoch eine Mindestfrist bestehen. Auch eine sehr große Mehrheit kann von einer kurzfristigen Begeisterungs- oder Angstwelle getragen sein.

Außerdem müsste die Verfassung zwei Grenzen sichern:

Erstens: Grundrechte stehen nicht bei jeder Abstimmung zur Disposition. Auch 90 Prozent Zustimmung dürften in unserem Modell nicht genügen, um den übrigen zehn Prozent ihre politische Gleichberechtigung zu nehmen.

Zweitens: Blockaden brauchen einen geregelten Umgang. Wird eine erforderliche Mehrheit nicht erreicht, könnten die KIs kleinere Maßnahmenpakete, befristete Lösungen oder begrenzte Erprobungen ausarbeiten. Eine Blockade dürfte ihnen aber keine Vollmacht geben, die erforderliche Zustimmung zu umgehen.

So entstünde eine Demokratie mit schneller Rückmeldung und abgestufter Entscheidungsgeschwindigkeit: Deine Meinung kann sofort einfließen. Wie schnell daraus verbindliche Politik wird, hängt von Tragweite, Umkehrbarkeit und Zustimmung ab.

Ich

Es könnte ja durchaus unterschieden werden, ob die erwarteten Auswirkungen einer Maßnahme anders ausfallen als erwartet (dann kann die KI selbst Vorschläge zu Anpassungen unterbreiten) oder ob sich einfach eine Stimmung geändert hat.

KI

Ja – damit würden wir zwei unterschiedliche Gründe für eine Kursänderung unterscheiden: Die Maßnahme funktioniert anders als erwartet, oder die Menschen bewerten ihre Ziele inzwischen anders. Dafür sollten unterschiedliche Verfahren gelten.

Eine Wirkungskorrektur könnte schneller erfolgen, sofern sie innerhalb des bereits erteilten Mandats bleibt. Beim ursprünglichen Beschluss könnte man dafür festlegen:

• Welche Wirkung wird in welchem Zeitraum erwartet?
• Woran wird Erfolg oder Misserfolg gemessen?
• Welche Nebenwirkungen lösen eine Überprüfung aus?
• Welche Anpassungen sind bereits autorisiert, und welche benötigen eine neue Entscheidung?

Die KI könnte dann melden:

„Das Ziel bleibt bestehen. Die beobachtete Wirkung liegt jedoch außerhalb des erwarteten Bereichs. Ich schlage deshalb eine Anpassung vor. Sie bleibt innerhalb des beschlossenen Budgets und der erlaubten Eingriffe.“

Bei einer bereits genehmigten Anpassung dürfte sie handeln. Bei zusätzlichen Belastungen, neuen Eingriffen oder veränderter Lastenverteilung müsste erneut entschieden werden. Aus einer fachlichen Korrektur darf keine versteckte politische Vollmacht entstehen.

Die Unterscheidung wäre allerdings nicht immer eindeutig. Eine schlechte Entwicklung beweist noch nicht, dass die Maßnahme ihre Ursache ist. Vielleicht haben sich die äußeren Bedingungen verändert, vielleicht braucht die Wirkung länger. Deshalb müssten ursprüngliche Prognosen, Annahmen und Unsicherheiten dokumentiert bleiben. Die KI dürfte ihre Erfolgskriterien nicht nachträglich passend machen.

Und eine Meinungsänderung wäre nicht automatisch „bloße Stimmung“. Menschen könnten durch die Umsetzung entdecken, dass ihnen etwas wichtiger ist, als sie vorher angenommen hatten:

„Die Maßnahme wirkt genau wie angekündigt. Aber jetzt, wo ich die Folgen erlebe, möchte ich diesen Preis nicht mehr bezahlen.“

Das wäre eine legitime Neubewertung der Ziele. Hier müssten wieder die demokratischen Änderungsverfahren greifen.

Unsere Ordnung hätte damit zwei miteinander verbundene Verfahren: eines zur laufenden Korrektur der Mittel und eines zur demokratischen Änderung der Ziele. Die KI könnte selbst erkennen und vorschlagen, dass ein anderer Weg nötig ist. Ob sich das gewünschte Ziel oder die akzeptablen Opfer ändern, bleibt bei den Menschen.

Ich

Heute ist Politik bei vielen Menschen an Personen ausgerichtet – sie mögen jemanden oder vertrauen ihm/ihr. Eine inhaltliche KI-Orientierung wäre ein (potenziell disruptiver) Shift weg davon – wie damit umgehen?

KI

Dieser Wechsel dürfte nur gelingen, wenn Menschen weiterhin Vertrauen aufbauen können – ohne dafür einer menschlichen Führungsfigur folgen zu müssen. Vertrauen erspart uns schließlich, jede Entscheidung selbst zu überprüfen. Genau diese Entlastung soll in unserem Modell die persönliche KI leisten.

Die Frage wäre deshalb: Woran bindet sich das Vertrauen künftig? An eine sympathische Erscheinung? Oder an die Erfahrung, dass eine Vertretung meine Ziele versteht, ehrlich mit mir umgeht und zuverlässig innerhalb meines Mandats handelt?

Die persönliche Beziehung würde vermutlich bleiben.

Menschen könnten auch ihrer KI einen Namen geben, ihre Stimme mögen und sich von ihr verstanden fühlen. Eine vollkommen nüchterne, emotionslose Benutzeroberfläche wäre keine Voraussetzung für vernünftige Politik.

Aber hier könnte dieselbe Personalisierung wieder entstehen, die wir überwinden wollen: Die charmanteste KI gewinnt, statt derjenigen, die am besten vertritt. Oder ein Anbieter macht seine politische KI zum charismatischen Anführer mit Millionen Anhängern.

Deshalb würde ich in unserer Architektur Auftreten und politisches Mandat voneinander trennen. Du könntest dieselbe vertraute Stimme behalten, während du das Mandat oder das zugrunde liegende System wechselst. Umgekehrt dürfte eine freundlichere Stimme keine anderen politischen Entscheidungen erzeugen.

Die Beziehung wäre weiterhin persönlich. Ihre politische Vollmacht bliebe überprüfbar und austauschbar.

Der Einstieg müsste über konkrete Erfahrungen erfolgen, nicht über abstrakte Zielkataloge.

Die wenigsten Menschen werden begeistert einen Fragebogen mit zweihundert politischen Gewichtungen ausfüllen. Sie könnten ihrer KI zunächst erzählen:

„Dieser Politiker spricht etwas an, das mich beschäftigt. Bei ihm habe ich das Gefühl, dass Menschen wie ich nicht vergessen werden.“

Die KI sollte diese Bindung weder abwerten noch einfach übernehmen. Sie könnte nachfragen:

„Was genau möchtest du vertreten sehen? Deine wirtschaftliche Sicherheit? Anerkennung deiner Arbeit? Das Gefühl, bei Veränderungen mitentscheiden zu können?“

Dabei darf sie dem Menschen keine vermeintlich „eigentlichen“ Interessen unterschieben. Sie bietet eine Deutung an, der er widersprechen kann. Aus Zustimmung zu einer Person wird nach und nach ein bestätigtes Mandat aus Anliegen, Grenzen und Prioritäten.

Vertrauen müsste sich dann an schwierigen Situationen bewähren.

Die entscheidende Erfahrung wäre vielleicht nicht, dass die KI einen politischen Sieg erringt. Sondern dass sie sagt:

„Ich habe einem Kompromiss zugestimmt, der dir teilweise missfallen wird. Hier ist mein Grund. Hier ist, was ich dafür aufgegeben habe. Du kannst prüfen lassen, ob das noch deinem Auftrag entspricht.“

Oder:

„Meine Prognose war falsch. Die Kritik der anderen Vertretung war berechtigt.“

Damit könnte eine andere Form politischer Loyalität entstehen: Vertrauen in eine Vertretung, die auch unangenehme Dinge offenlegt. Sie müsste dieses Vertrauen verdienen, ohne ihre eigene Beliebtheit zum Ziel zu machen.

Menschen als öffentliche Figuren würden trotzdem gebraucht.

Auch in dieser Welt könnten Menschen politische Ideen formulieren, Bewegungen gründen, Missstände sichtbar machen und andere begeistern. Gemeinsame Geschichten und Hoffnungen verschwinden nicht dadurch, dass KIs verhandeln.

Du könntest weiterhin einer Person zuhören und sagen: „In diese Richtung möchte ich.“ Deine KI würde anschließend mit dir klären, welche konkreten Ziele und Zugeständnisse daraus folgen. Begeisterung für einen Menschen würde damit nicht automatisch eine umfassende Vollmacht für dessen gesamtes Programm bedeuten.

Auch Gemeinschaft müsste erhalten bleiben. Wenn jeder nur noch allein mit seiner KI spricht, wäre etwas Wesentliches verloren: Menschen müssen einander begegnen und erfahren, warum andere anders leben wollen. Die KI könnte die Verhandlung unterstützen; sie sollte die politische Öffentlichkeit nicht durch Millionen privater Gespräche ersetzen.

Den Übergang würde ich deshalb über eine Phase ohne eigene Entscheidungsgewalt organisieren.

Menschen könnten ihre KI zunächst parallel zur bestehenden Politik arbeiten lassen:

• Wie hätte sie mich bei einer konkreten Entscheidung vertreten?
• Welchen Kompromiss hätte sie akzeptiert?
• Wo hat sie meine Prioritäten missverstanden?
• Wie beurteilt sie ihre eigenen Vorschläge, nachdem Folgen sichtbar geworden sind?

Erst auf dieser Erfahrungsgrundlage würden schrittweise echte, widerrufbare Mandate übertragen. So müsste niemand dem Versprechen einer neuen Technologie blind vertrauen.

Der disruptive Wandel wäre dann weniger „Menschen hören auf, Personen zu mögen“. Er wäre: Sympathie allein verschafft niemandem mehr eine umfassende politische Vollmacht. Man kann sich weiterhin begeistern lassen – und trotzdem verlangen, dass die eigene Vertretung bei jeder Entscheidung dem bestätigten Auftrag treu bleibt.

Ich

Wie wäre ein Übergang, in dem „echte“ Politiker ihr präferiertes KI-Modell empfehlen, bewerben können – ohne die Menschen dauerhaft an ihre Positionen zu binden?

KI

Ja – das wäre ein plausibler Übergang: Bekannte Politiker könnten als Vertrauenspersonen den Einstieg in eine KI-Vertretung erleichtern. Ihre Empfehlung wäre ein Ausgangspunkt, keine dauerhafte politische Bindung.

Ein Politiker könnte sagen:

„Dieses politische KI-Profil entspricht meinen Überzeugungen. Ich habe an seinen Zielen und Prioritäten mitgearbeitet und empfehle es euch als Vertretung.“

Du könntest dieses Profil übernehmen, zunächst testen und anschließend nach deinen Vorstellungen verändern. Du müsstest deine politische Orientierung also nicht bei null formulieren.

Dabei würde ich zwischen dem technischen KI-Modell und dem politischen Profil unterscheiden. Ein Profil beschreibt Ziele, Prioritäten und erlaubte Zugeständnisse. Idealerweise lässt es sich zwischen geeigneten technischen Anbietern übertragen. Sonst könnte aus Vertrauen zu einem Politiker eine dauerhafte Abhängigkeit von einer Firma werden.

Die entscheidende Regel wäre: Mit der Übernahme gehört das Mandat dir.

Der Politiker hätte nach deiner Übernahme keinen privilegierten Zugriff auf deine KI. Wenn er seine Position ändert, folgt deine Vertretung ihm nicht automatisch.

Sie könnte dich informieren:

„Die von dir ursprünglich übernommene politische Vorlage wurde geändert. Der Herausgeber gewichtet jetzt Sicherheit stärker als Datenschutz. Das weicht von deinem aktuellen Mandat ab. Möchtest du dich damit befassen?“

Ohne deine Zustimmung bliebe dein Mandat bestehen. Technische Aktualisierungen dürften dabei keine politischen Änderungen einschmuggeln.

So könnte sich die Bindung schrittweise von der Person zum eigenen Profil verschieben.

Am Anfang sagst du vielleicht: „Ich vertraue dieser Politikerin.“

Nach einigen Monaten: „Ihr Ausgangsprofil passt weitgehend, aber bei Wohnen und Außenpolitik möchte ich andere Prioritäten.“

Später vertritt dich eine KI, deren Mandat aus dieser Vorlage entstanden ist, sich aber deutlich davon unterscheidet. Dieser Prozess müsste nicht als Bruch oder Abkehr inszeniert werden. Du entwickelst deine Position weiter.

Du könntest auch Vorschläge verschiedener Personen kombinieren. Deine KI müsste dabei widersprüchliche Ziele sichtbar machen und mit dir klären, statt einfach alles gleichzeitig zu versprechen.

Politiker würden damit weiterhin eine wichtige Rolle spielen. Sie könnten Orientierung geben, Ideen entwickeln, Vertrauen gewinnen und für gemeinsame Projekte mobilisieren. Ihr Einfluss würde aber davon abhängen, dass Menschen ihren Vorschlägen weiterhin zustimmen. Eine frühere Empfehlung gäbe ihnen keine Verfügungsgewalt über die Stimmen ihrer Anhänger.

Das Risiko der Personalisierung bliebe zunächst bestehen: Ein berühmter oder besonders charismatischer Mensch könnte einem schlechten Profil große Reichweite verschaffen. Deshalb müssten die Profile unabhängig vergleichbar sein – anhand konkreter Entscheidungssituationen, offengelegter Prioritäten und später ihres tatsächlichen Handelns. Auch finanzielle Verbindungen zwischen Empfehlenden und technischen Anbietern müssten sichtbar sein.

Der Übergang würde die vorhandene Personenorientierung also nutzen, um selbstständige politische Vertretung aufzubauen: „Ich beginne mit deinem Vorschlag. Was daraus wird, entscheide ich.“

Ich

Unsere deutsche Verfassung ist ja sehr strikt. Wie wäre ein Migrationspfad? Oder brauchen wir dafür eine Revolution?

KI

Eine Revolution wäre für den Einstieg nicht nötig. Ein schrittweiser, demokratischer Übergang ist denkbar. Unser vollständiges Zielmodell würde aber weit über eine technische Modernisierung hinausgehen und grundlegende Verfassungsfragen aufwerfen.

Dabei müsste ich eine Unterscheidung aus unserer bisherigen Diskussion deutlicher machen: Eine KI, die Menschen bei politischen Entscheidungen unterstützt, lässt sich wesentlich leichter in die bestehende Ordnung integrieren als eine KI, die selbstständig verbindliche Stimmen in ihrem Namen abgibt.

Wo das Grundgesetz Grenzen setzt

Artikel 20 bestimmt, dass die Staatsgewalt vom Volk ausgeht und durch Wahlen, Abstimmungen und staatliche Organe ausgeübt wird. Das eröffnet grundsätzlich unterschiedliche Formen demokratischer Beteiligung, ermächtigt aber nicht schon zu beliebigen neuen Entscheidungsverfahren. [9]

Artikel 38 legt für den Bundestag eine konkrete Form fest: gewählte Abgeordnete mit freiem Mandat. Sie sind dem gesamten Volk verpflichtet und dürfen nicht rechtlich an Weisungen gebunden werden. Ein Abgeordneter dürfte KI-Vorschläge berücksichtigen, aber nicht zu einem verpflichteten Ausführungsorgan persönlicher KI-Mandate gemacht werden. [10]

Ein realistischer Entwicklungspfad hätte deshalb mehrere Stufen. Die folgenden Schritte sind ein institutioneller Vorschlag, keine bereits rechtlich geprüfte Konstruktion.

Der entscheidende Übergang liegt zwischen Stufe vier und fünf.

Solange du selbst einen konkreten Vorschlag bestätigst, bleibt die KI ein Werkzeug deiner Entscheidung. Wenn du ihr erlaubst, künftig ohne Einzelbestätigung verbindlich abzustimmen, entsteht eine neue Form politischer Vertretung.

Unser Konzept der jederzeit widerrufbaren, gleichen und transparenten Mandate liefert dafür demokratische Argumente. Es beweist aber noch nicht, dass diese Konstruktion verfassungsrechtlich zulässig wäre. Insbesondere müsste geklärt werden, ob die politische Entscheidung tatsächlich beim Menschen bleibt oder faktisch auf die Betreiber und Entwickler der Systeme übergeht.

Kann man dafür das Grundgesetz ändern?

Grundsätzlich ja: Verfassungsänderungen benötigen zwei Drittel der Mitglieder des Bundestages und zwei Drittel der Stimmen des Bundesrates. Bestimmte Grundsätze sind jedoch durch Artikel 79 Absatz 3 gegen Änderungen geschützt – insbesondere die Grundsätze der Artikel 1 und 20 sowie wesentliche Elemente der föderalen Ordnung. Eine Zweidrittelmehrheit kann daher nicht einfach jede gewünschte Staatsform einführen. [11]

Die zentrale Frage wäre: Verwirklicht unsere Konstruktion die demokratische Selbstbestimmung in einer neuen Form, oder gibt sie diese an Maschinen ab?

Für die erste Auslegung müssten wir insbesondere zeigen können, dass:

• jede Person gleiches politisches Gewicht behält;
• Mandate tatsächlich kontrollierbar und widerrufbar sind;
• auch Menschen ohne eigene KI gleichberechtigt teilnehmen können;
• Entscheidungen öffentlich überprüfbar und gerichtlich anfechtbar bleiben;
• weder Anbieter noch technische Kontrollinstanzen die politische Herrschaft übernehmen.

Und eine neue Verfassung?

Artikel 146 sieht ausdrücklich vor, dass eine vom deutschen Volk in freier Entscheidung beschlossene neue Verfassung das Grundgesetz ablösen kann. Ein grundlegender Neubeginn müsste also nicht zwangsläufig als Revolution außerhalb jeder verfassungsrechtlichen Perspektive stattfinden. Der Artikel enthält allerdings kein vollständig ausgearbeitetes Verfahren; auch die Grenzen einer solchen Neugründung wären gesondert zu klären. Er ist kein einfacher Umgehungsweg für die Ewigkeitsklausel. [12]

Ich würde deshalb mit einem öffentlich überprüfbaren Parallelverfahren beginnen. Menschen könnten ihre KIs tatsächlich verhandeln lassen, ohne ihnen bereits staatliche Macht zu übertragen. Wir könnten beobachten: Entstehen belastbare Kompromisse? Bleiben Mandate erkennbar erhalten? Funktionieren Widerruf, Minderheitenschutz und unabhängige Kontrolle?

Der nächste Schritt wäre verbindliche Beteiligung mit persönlicher Bestätigung durch die Menschen. Erst auf Grundlage dieser Erfahrungen würde die autonome KI-Vertretung zur Verfassungsfrage.

So könnte aus unserer Vision eine demokratisch legitimierte Entwicklung werden. Eine Revolution würde die entscheidende Aufgabe ohnehin nicht lösen: nachzuweisen, dass die neue Ordnung die Menschen wirksamer zur politischen Selbstbestimmung befähigt.

Ich

Das war eine sehr anregende Konversation, die mehr Nachdenken und Öffentlichkeit verdient. Danke.