Wenn Maschinen die Welt beschreiben – und wer darüber bestimmen darf

KI wird nicht ewig für uns programmieren

Heute sagst du einer Coding-KI: „Bau mir eine REST-API in Rust für die Verwaltung von Kunden." Die KI schreibt Rust. Warum eigentlich? Nicht weil Rust für eine KI besonders angenehm ist, sondern weil wir Menschen Rust erfunden haben. Programmiersprachen sind eine Schnittstelle zwischen Mensch und Maschine – deshalb gibt es Variablennamen, Funktionen, Kommentare, Dateien, Klassen, Module und jede Menge syntaktische Regeln. Eine KI braucht vieles davon nicht.

Heute sieht der Weg ungefähr so aus: Mensch → Anforderung → KI → Rust → Compiler → Maschine.

Nimm jetzt an, KI erzeugt in ein paar Jahren praktisch den gesamten Implementierungscode, und Menschen lesen ihn kaum noch. Dann stellt sich eine ziemlich naheliegende Frage: Warum sollte die KI überhaupt noch Rust schreiben?

Vielleicht verschwindet der Quellcode

Für eine KI wäre wahrscheinlich etwas ganz anderes sinnvoller. Nicht:

if user.role != Role::Doctor {
    return Err(Error::Forbidden);
}

Sondern sinngemäß:

REGEL:
Patientendaten dürfen nur für Behandlungszwecke gelesen werden.

VORAUSSETZUNG:
Der Benutzer ist am Behandlungsfall beteiligt.

VERBOTEN:
Weitergabe an externe Systeme.

NACHWEIS:
Jeder Zugriff wird protokolliert.

Die KI entscheidet selbst, wie sie das technisch umsetzt. Heute vielleicht in Rust, morgen als WebAssembly, übermorgen in irgendeiner maschinenoptimierten Zwischenrepräsentation. Der Implementierungscode würde damit zu etwas Ähnlichem wie heutiger Maschinencode: ein erzeugtes Artefakt. Niemand liest nach jeder Änderung eines Rust-Programms den erzeugten Assemblercode durch. Warum solltest du künftig Millionen Zeilen KI-generierten Rust-Code lesen?

Dann wird die Spezifikation zum eigentlichen Programm

Damit verschiebt sich das Problem. Wenn wir den Code nicht mehr kontrollieren, müssen wir sehr genau kontrollieren, was wir der Maschine auftragen.

Nimm diese scheinbar einfache Anforderung: „Berechtigte Mitarbeiter dürfen Patientendaten sehen." Für einen Menschen klingt das vernünftig. Für eine Maschine ist es fast unbrauchbar. Was heißt „berechtigt"? Ärzte, Pflegekräfte, Administratoren, die Abrechnung, der externe IT-Support? Darf ein Arzt alle Patienten sehen oder nur seine eigenen? Was gilt im Notfall, was bei einem ehemaligen Mitarbeiter? Darf die KI selbst die Daten lesen, wenn sie im Auftrag des Arztes arbeitet?

Das eigentliche Programm steckt plötzlich nicht mehr in einer if-Anweisung, sondern in der präzisen Beschreibung dessen, was wir wollen. Die wichtigste Programmiersprache der KI-Zeit könnte deshalb ausgerechnet eine Sprache zur Beschreibung von Anforderungen werden.

Müssen wir dann jedes Mal die ganze Welt neu erklären?

Nein – und damit sind wir bei etwas, das zunächst wieder nach klassischer Softwareentwicklung klingt: Libraries.

Heute schreiben Entwickler:

use serde
use axum
use sqlx

Damit importieren sie Implementierungen. Künftig könnte eine Spezifikation eher so aussehen:

IMPORT EU.DSGVO
IMPORT DE.GESUNDHEITSWESEN
IMPORT HL7.FHIR
IMPORT IDENTITY.ENTERPRISE

Diese Libraries würden keinen fertigen Programmcode liefern, sondern Bedeutung. Eine DSGVO-Library könnte zum Beispiel wissen, was personenbezogene Daten sind, was besondere Kategorien davon sind, was ein Verantwortlicher ist, ein Auftragsverarbeiter, ein Verarbeitungszweck – und welche Anforderungen aus einer bestimmten Klassifikation folgen. Dann reicht möglicherweise eine Definition wie Patient.email = personenbezogenes Datum, und das System weiß von selbst: Zweck erforderlich, Rechtsgrundlage erforderlich, Zugriffsregel, Aufbewahrung, Löschkonzept, Nachweis.

Wir würden keine Implementierung mehr importieren. Wir würden Wissen über die Welt importieren.

Und plötzlich wird die Library ziemlich groß

Bei der DSGVO hört die Welt nämlich nicht auf. Du brauchst Definitionen für Menschen, Unternehmen, Verträge, Geld, Steuern, Patienten, Ärzte, Medikamente, Eigentum, Arbeitsverhältnisse, Behörden, Länder, Währungen, Zeit, Einwilligungen, Vollmachten, Rechte, Pflichten – und für die Beziehungen zwischen all diesen Dingen. Aus ein paar Specification Libraries wird irgendwann zwangsläufig etwas Größeres: ein maschinenlesbares Modell unserer Welt. Nicht unbedingt eine gigantische Datei namens world.spec, eher ein weltweites Netz miteinander verbundener Definitionen.

Patient
    Name
    Geburtsdatum
    Anschrift
    Versicherung

Eine wirkliche Spezifikation müsste erheblich mehr wissen: Ein Patient ist ein Mensch. Ein Mensch hat Rechte. Ein Patient kann einer Behandlung zustimmen, minderjährig sein, bewusstlos sein, einen Bevollmächtigten haben. Bei einer Behandlung entstehen Gesundheitsdaten, die besonders geschützt sind – in Deutschland nach bestimmten Regeln, in Frankreich vielleicht nach anderen, im medizinischen Notfall gelten wieder Ausnahmen.

Es reicht also nicht mehr zu definieren, was ein Patient ist. Die Maschine muss wissen: Welche Regel gilt für diesen Patienten in dieser Situation, zu diesem Zeitpunkt, an diesem Ort? Aus einem Datenmodell wird ein Weltmodell.

Das klingt zunächst großartig

Stell dir vor, eine Anwendung importiert EU.AI_ACT. Ein Jahr später ändert sich eine relevante Regel. Das System könnte automatisch feststellen: 17 Anforderungen deiner Anwendung sind betroffen, vier Prozesse müssen angepasst werden, zwei bisher zulässige Aktionen sind jetzt eingeschränkt, 31 Tests müssen erneut laufen, drei Dokumentationen müssen aktualisiert werden.

Das wäre Dependency Management für die Wirklichkeit. Nicht eine Library wurde aktualisiert – die Welt hat sich geändert, und die Software weiß, welche Konsequenzen das hat. Enorm mächtig. Und genau deshalb wird es gefährlich.

Denn wer darf die Welt definieren?

Nimm einen scheinbar harmlosen Begriff: Mitarbeiter. Wer definiert ihn? Oder: medizinischer Notfall. Oder: angemessene Sicherheitsmaßnahme, Risiko, berechtigtes Interesse.

In einem Gesetz können solche Begriffe bewusst offen bleiben. Menschen interpretieren sie, Gerichte entscheiden darüber, Behörden konkretisieren sie, Einzelfälle schaffen Ausnahmen. Aber irgendwann muss eine ausführende Maschine daraus etwas machen, vielleicht so (ein frei erfundenes Beispiel, keine reale Regel):

IF Risiko > 0.7
THEN Aktion verbieten

Woher käme in diesem Beispiel die 0,7? Wer hätte sie festgelegt – der Gesetzgeber, eine Behörde, eine Normungsorganisation, der Hersteller der Software, OpenAI, Anthropic, Microsoft, eine Beratungsfirma? Oder hätte eine KI aus ein paar Millionen Dokumenten selbst geschlossen, dass 0,7 wahrscheinlich richtig ist?

Plötzlich reden wir nicht mehr über Softwarearchitektur. Wir reden über Macht.

Wer die Semantik kontrolliert, kontrolliert das System

Grob gesagt galt in der Geschichte der IT erst: Wer den Code kontrolliert, kontrolliert das System. Dann wurde wichtiger: Wer die Daten kontrolliert, kontrolliert das System. In einer Welt autonom handelnder KI könnte eine dritte Ebene dazukommen: Wer die Bedeutung kontrolliert, kontrolliert das System.

Wenn eine zentrale maschinenlesbare Definition sagt „X ist erlaubt", erlauben möglicherweise Millionen Maschinen X. Sagt sie „Y ist verboten", verhindern Millionen Maschinen Y. Und kommt ein bestimmter Fall in der Spezifikation gar nicht vor, existiert er für automatisierte Entscheidungen faktisch vielleicht nicht. Das ist Macht durch Definition.

Eine zentrale Weltbeschreibung wäre deshalb eine ziemlich schlechte Idee

Die Vorstellung einer einzigen autoritativen world.spec klingt technisch verführerisch. Gesellschaftlich wäre sie vermutlich fatal. Die Welt hat keine zentrale Wahrheit: Ein Parlament beschließt etwas, eine Behörde interpretiert es, ein Gericht widerspricht, ein anderes Gericht differenziert, ein Unternehmen hat zusätzliche Regeln, ein Vertrag enthält eine Ausnahme – und zwei Juristen haben am Ende trotzdem noch drei Meinungen dazu.

Ein brauchbares maschinenlesbares Weltmodell müsste Widersprüche aushalten können. Es dürfte nicht sagen „das ist wahr", sondern eher: Diese Institution sagt X, sie hat dafür diese Autorität, X gilt in diesem Gebiet seit diesem Zeitpunkt, Gericht Y hat es anders interpretiert, für Fall Z gibt es eine Ausnahme. Erheblich komplizierter – aber das entspricht unserer wirklichen Welt.

Vielleicht brauchen wir ein World Wide Web für Bedeutung

Das Web hat einen entscheidenden Vorteil: Niemand besitzt es vollständig. Organisationen veröffentlichen Informationen, andere verweisen darauf, Quellen widersprechen sich, Inhalte werden versioniert. Vielleicht braucht die KI-Welt etwas Ähnliches – nicht eine Datenbank mit einer Wahrheit, sondern viele Quellen mit Herkunft, Autorität, Kontext, Version, Widerspruch.

Eine EU-Verordnung veröffentlicht ihre maschinenlesbaren Regeln. Deutschland ergänzt nationale Regeln, Hamburg Landesrecht. Eine Behörde veröffentlicht ihre Auslegung, ein Unternehmen ergänzt interne Policies, ein Gericht verändert eine Interpretation. Die Maschine setzt daraus für eine konkrete Situation die relevanten Regeln zusammen.

Und der Mensch muss sehen können, was passiert ist

Das halte ich für entscheidend. Wenn irgendwann eine Maschine meinen Antrag ablehnt, reicht mir nicht „Ihr Antrag konnte leider nicht genehmigt werden." Ich will wissen:

ENTSCHEIDUNG
Antrag abgelehnt

ANGEWENDETE REGELN
Regel A, Regel B, Regel C

VERWENDETE DATEN
X, Y, Z

BERÜCKSICHTIGTE AUSNAHMEN
Ausnahme 1: nicht anwendbar

VERANTWORTLICHE STELLE
Behörde X

WIDERSPRUCH
möglich

Das wäre für mich eine deutlich wichtigere Form von „Explainable AI". Eigentlich wäre es Explainable Governance. Nicht nur die KI muss erklären können, was sie getan hat – das gesamte Regelwerk muss erklären können, warum die KI es tun durfte.

Und damit sind wir erstaunlich weit vom Wasserzeichen entfernt

Angefangen haben wir mit einer kleinen technischen Frage: Wie versteckt man in einem KI-generierten Satz ein Wasserzeichen? Dann kam die Frage, ob dieses Wasserzeichen irgendwann unsere Sprache verändert. Bei Programmcode stellt sich dieselbe Frage – nur fällt hier auf, dass KI irgendwann vielleicht gar keinen für Menschen lesbaren Code mehr braucht.

Damit wird die Spezifikation wichtiger als der Code. Spezifikationen brauchen wiederverwendbares Wissen, daraus entstehen Libraries, und diese Libraries beschreiben immer größere Teile unserer Wirklichkeit. Und irgendwann stehst du vor einer ganz anderen Frage: Wer darf diese Wirklichkeit definieren?

Das ist keine technische Frage mehr, sondern eine politische – vielleicht sogar eine der wichtigsten der KI-Zeit. Eine Definition in einem Buch beschreibt die Welt. Eine Definition in einem ausführbaren Weltmodell kann sie verändern. Und je autonomer Maschinen handeln, desto wichtiger wird nicht nur die Frage, was sie können, sondern: Wer darf ihnen sagen, was gilt?