Wer die KI nicht kontrolliert, verliert

Letzte Woche habe ich beim Bremen Fast Forward KI-Festival darüber gesprochen, warum sich digitale Souveränität jetzt noch einmal neu entscheidet und welche Rolle Open-Source-KI dabei spielt. Meine wichtigsten Punkte fasse ich hier zum Nachlesen zusammen.

Der IT-Planungsrat hat digitale Souveränität 2020 als „die Fähigkeiten und Möglichkeiten von Individuen und Institutionen, ihre Rolle(n) in der digitalen Welt selbstständig, selbstbestimmt und sicher ausüben zu können“ beschrieben. In der Praxis geht es um drei Fragen: Wer kontrolliert? Wer kann gestalten? Und können wir wechseln, wenn sich Bedingungen ändern?

Für weite Teile unserer Wirtschaft und Verwaltung lautet die Antwort auf alle drei Fragen leider: nicht wir. Von der Office-Software bis zum Cloud-Betrieb stammen die entscheidenden Systeme überwiegend von US-amerikanischen Anbietern. Bereits 2019 hat die von der Bundesregierung beauftragte PWC-Studie diese Abhängigkeiten benannt und den Aufbau von Alternativen empfohlen. Passiert ist zu wenig.

Und mittlerweile können wir immer häufiger beobachten, wie diese Abhängigkeiten genutzt werden, um politischen oder wirtschaftlichen Druck auszuüben: gesperrte E-Mail-Konten von Richtern am Internationalen Strafgerichtshof, VMware-Preiserhöhungen von bis zu 1.500 Prozent, der zeitweise verweigerte Zugriff der Ukraine auf wichtiges Kartenmaterial und vieles mehr. Das sind eindeutige Belege für Erpressbarkeit.

Dies trifft uns in einer geopolitisch immer weiter angespannten Lage. Russlands Krieg gegen die Ukraine geht weiter, auch die USA versuchen ihre Ziele mit allen, auch militärischen Mitteln durchzusetzen und die amerikanische IT-Industrie ist dabei weiterhin enger Verbündeter ihrer Regierung. Gemeinsam ist Russland, den USA und China dabei, dass sie kein Interesse an einem starken, selbstbestimmten Europa haben.

Der Weg zu digitaler Souveränität führt über Open Source. Offener Quellcode schafft Transparenz und Kontrollmöglichkeiten, erlaubt Anpassung an die eigenen Anforderungen, macht Systeme einfacher austauschbar, ermöglicht Nachnutzung und Weiterentwicklung, stärkt Resilienz und verbessert Skalierbarkeit. Die Ironie ist: Das wissen auch die Hyperscaler und setzen Open Source in allen möglichen Bereichen ein.

Politisch ist das alles auch bekannt: Der Koalitionsvertrag bekennt sich zu digitaler Souveränität und Open Source, das EU Tech Sovereignty Package ist ein wichtiger Meilenstein, und auch Länder wie Frankreich, Italien und die Niederlande setzen bereits entschlossen auf offene Software. Für den Erfolg dieser Strategie entscheidend wird sein, ob der Einsatz von Open Source auch in der Beschaffung verbindlich wird.

Die Kritikalität digitaler Souveränität ist mit dem Wechsel von On-Premise-Servern in die Cloud deutlich gestiegen, weil Software plötzlich in einem ganz anderen Maß von anderen kontrolliert wird. Mit KI kommt eine weitere Stufe hinzu.

Wir können davon ausgehen, dass künftig praktisch alle Prozesse in Wirtschaft, Verwaltung, Softwareentwicklung und Kommunikation von KI mitgestaltet werden. Wer sich dabei ausschließlich auf die so genannten Frontier-Modelle einiger weniger Anbieter verlässt, verliert die Kontrolle über die eigenen digitalen Prozesse und gibt selbst erzeugte Daten aus der Hand. Wie schnell das direkt spürbar werden kann, hat die vorübergehende Sperrung der Anthropic-Modelle gezeigt. Wer die KI-Plattformen kontrolliert, beeinflusst künftig Entscheidungen, Wissensarbeit und Innovation.

Dazu kommt das Thema Bias. Modelle treffen Einschätzungen auf Basis ihrer Trainingsdaten und können damit auch Meinungsbildung beeinflussen. Beispielsweise wurde in den USA kürzlich eine Bundesklage gegen Workday zugelassen. Darin wird dem Anbieter vorgeworfen, dass seine KI-Funktionen Bewerberinnen und Bewerber aufgrund ihres Alters, ihrer Herkunft oder einer Behinderung systematisch benachteiligen. Problematisch ist weniger, dass Verzerrungen auftreten, sondern dass sich bei geschlossenen Modellen weder nachvollziehen noch korrigieren lässt, woher sie kommen.

Open-Source-KI bedeutet, dass Modelle nicht nur genutzt, sondern auch verstanden, überprüft, angepasst und unabhängig betrieben werden können. Dabei ist offen nicht gleich offen. Es macht einen Unterschied, ob nur die betreibende Software offen ist, ob die Gewichte verfügbar sind oder ob auch die Trainingsdaten offenliegen.

Die Vorteile sind eindeutig: Unabhängigkeit von einzelnen Anbietern, weil Modelle selbst betrieben und weiterentwickelt werden können und Daten im Haus bleiben. Transparenz, weil sich Sicherheitsprobleme und Verzerrungen durch Analyse von Trainingsdaten unabhängig erkennen lassen. Und ein breiterer Wettbewerb, weil offene Modelle eine gemeinsame Grundlage bilden, auf der viele Unternehmen aufbauen können.

Die Leistungsfähigkeit spricht inzwischen ebenfalls dafür. Offene Modelle liegen bei der allgemeinen Leistungsfähigkeit in vielen Bereichen nur noch wenige Monate hinter den besten geschlossenen Modellen und erreichen ein Niveau, das für viele produktive Anwendungen ausreicht.

Bei Univention nutzen wir das selbst. Wir stellen allen Mitarbeitenden eine Open-Source-KI zur Verfügung und binden sukzessive mehr unserer Systeme daran an. So können wir mit unseren internen Daten arbeiten, ohne sie einem externen Anbieter zu überlassen.

Die Frage ist schon lange nicht mehr, ob digitale Souveränität wichtig ist, sondern wo man anfängt. Ein pragmatischer Weg ist es, dort zu beginnen, wo ohnehin eine Entscheidung ansteht, etwa weil etwas Neues eingeführt soll oder ein Vertrag neu geschlossen werden muss. An diesen Punkten entscheidet sich, ob eine Abhängigkeit für weitere Jahre festgeschrieben oder aufgelöst wird.

Dabei muss auch klar sein, dass ein Wechsel oft nicht zum Nulltarif möglich ist, denn Migration, Integration, Betrieb und Schulung kosten Geld, Zeit und Kompetenz. Trotzdem lohnt er sich, weil Open Source zwei zentrale Dinge verändern kann: Die Mittel fließen in eigene Fähigkeiten und in europäische Wertschöpfung statt in Lizenzen, deren Preise andere festlegen. Und ein offenes Modell kann nicht ohne Weiteres gesperrt oder abgeschaltet werden.

Mein Appell ist deshalb, bei der in den meisten Fällen engagiert voranzutreibenden Einführung von KI immer auch die Möglichkeit zu schaffen, offene Modelle einsetzen zu können – unter eigener Kontrolle oder in vertrauenswürdigen Rechenzentren.