Die fortschreitende Digitalisierung der öffentlichen Verwaltung führt dazu, dass große Sprachmodelle (LLMs) zunehmend in den Arbeitsalltag integriert werden. Mit dieser Entwicklung wachsen jedoch auch die Ansprüche an digitale Souveränität. Insbesondere stellt sich dabei die Frage, wie die Bundesverwaltung technologische Abhängigkeiten vermeiden und gleichzeitig leistungsfähige KI-Systeme sicher einsetzen kann.

Die aktuelle Studie »Digitale Souveränität und grosse Sprachmodelle in der Bundesverwaltung« analysiert die Rolle großer Sprachmodelle im Bund und bewertet bestehende Eigenentwicklungen im Hinblick auf drei zentrale Souveränitätsziele: Wechselmöglichkeit, Gestaltungsfähigkeit und Einfluss auf Anbieter. Grundlage der Untersuchung waren eine umfassende Datenerhebung zu laufenden KI-Projekten sowie eine internationale Markt- und Maßnahmenbetrachtung.

Die Ergebnisse zeigen deutlich: Durch selbst entwickelte KI-Systeme muss die Verwaltung für viele typische LLM-Anwendungsfälle nicht auf proprietäre Produkte großer, vor allem nicht-europäischer Technologiekonzerne zurückgreifen. Damit sinkt das Risiko, neue Abhängigkeiten einzugehen oder bestehende zu vertiefen. Zudem kommen die derzeit eingesetzten Lösungen primär als Arbeitsunterstützung zum Einsatz – ein Ausfall würde also nicht die Handlungsfähigkeit der Verwaltung gefährden. Besonders ressortübergreifende Systeme werden bereits so entwickelt, dass Kriterien digitaler Souveränität konsequent berücksichtigt werden.

Digitale Souveränität in einer modernen Verwaltung sichern

Die Studie zeigt außerdem, dass auf Ebene der LLMs hauptsächlich auf nicht-europäische Open-Source-Lösungen gesetzt wird, die auf verwaltungsinterner Hardware gehostet sind. Angesichts sich verändernder Open-Source-Rahmenbedingungen empfehlen die Autorinnen und Autoren, die Entwicklung eines eigenen europäischen LLMs zu prüfen, das Verwaltungsanforderungen besser abbildet und langfristige Unabhängigkeit sicherstellt. Gleichzeitig wirft die Marktanalyse Fragen zur Entwicklung eines breiteren Ökosystems für staatliche LLM-Anwendungen auf – etwa durch Förderung, gezielte Beschaffung oder föderale Kooperationen wie im Deutschland-Stack. Die Untersuchung weist jedoch auch auf Herausforderungen hin: komplexe rechtliche Anforderungen, Unsicherheiten bei der Bereitstellung zur Nachnutzung sowie ein Mangel an spezialisierter KI-Infrastruktur und Fachpersonal. In einer Reihe konkreter Handlungsempfehlungen fordert die Studie daher unter anderem gemeinsame Infrastrukturen, klare rechtliche Vorgaben, stärkere Open-Source-Initiativen und zusätzliche Maßnahmen zur Qualifizierung.

Das Fazit: Die aktuellen LLM-Initiativen des Bundes stärken bereits jetzt die digitale Souveränität und bieten funktionale Alternativen zu externen Lösungen. Um langfristig unabhängig und handlungsfähig zu bleiben, sind jedoch gezielte Weiterentwicklungen notwendig.