Behörden wollen künstliche Intelligenz nutzen, ihre Daten aber nicht an fremde Rechenzentren abgeben. Genau dieses Spannungsfeld hat NVIDIA zur GTC Berlin aufgegriffen: In einem Beitrag vom 21. Oktober 2026 beschreibt der Konzern, wie Verwaltungen in mehreren EU-Ländern offene KI-Modelle auf Infrastruktur betreiben, die sie selbst kontrollieren. Mehrere der Beispiele kommen aus Deutschland – von Materna über secunet bis zum Forschungsvorhaben Soofi.
Es handelt sich nicht um ein neues Produkt mit Preis und Liefertermin, sondern um eine Sammlung von Partnerprojekten. Für Leserinnen und Leser in Deutschland ist sie trotzdem aufschlussreich, weil sie zeigt, welche Firmen sich gerade als Anbieter „souveräner KI“ für den Staat positionieren.
Warum offene Modelle für Behörden?
Offene Modelle („open weights“) lassen sich herunterladen, prüfen, an die eigene Sprache und Fachaufgaben anpassen und im eigenen Rechenzentrum betreiben. Für eine Verwaltung, die unter DSGVO, Geheimschutz und Vergaberecht arbeitet, ist das der entscheidende Unterschied zu einem Cloud-Dienst, bei dem Anfragen auf Servern außerhalb ihrer Kontrolle landen.
NVIDIA bringt dafür vor allem eigene Bausteine ins Spiel: die offene Modellfamilie Nemotron, Werkzeuge wie NeMo Data Designer und die Bibliothek NeMo User Sim, mit der sich das Verhalten vieler Nutzer in der Landessprache simulieren lässt. Dazu kommen Hardware-Systeme wie DGX BasePOD und DGX SuperPOD.
Welche deutschen Projekte nennt NVIDIA?
| Projekt | Beteiligte | Worum es geht |
|---|---|---|
| Sinfonie | Materna | On-Premises-Plattform, die generative KI, Sprachdialog und 3D-Avatare kombiniert; die Animation übernimmt NVIDIA Audio2Face |
| Souveräne Cloud | secunet, Red Hat, deepset, NVIDIA | Angebot auf Grundlage von secunets SINA Cloud, ausgelegt auch für Verschlusssachen; Red Hat liefert OpenShift AI |
| Soofi | Forschungsinitiative | „Sovereign Open Source Foundation Models“: Modellfamilie für Industrie und öffentlichen Sektor |
| Codefest | Deutsche Telekom, T-Systems | Rechenleistung für Teams, die große Sprachmodelle trainieren und bereitstellen |
Besonders konkret ist der Datensatz Nemotron-Personas-Germany, den Soofi erstellt hat. Er umfasst eine Million Einträge mit jeweils sechs künstlichen Personen. Grundlage sind laut NVIDIA die Zensusdaten von 2022 für alle 16 Bundesländer und 400 Kreise – echte personenbezogene Daten stecken nicht darin. Damit lässt sich prüfen, ob ein Verwaltungs-Chatbot einer 70-Jährigen auf dem Land genauso verlässlich antwortet wie einem Studenten in der Großstadt.
Interessant ist auch die Rolle von deepset: Das Berliner Unternehmen baut seine Haystack Enterprise Platform aus, auf der die EU-Kommission ihre interne KI-Plattform AI@EC betreibt.
Was machen andere EU-Länder?
- Polen: Das staatliche eHealth Centre entwickelt auf einem DGX BasePOD eine Plattform zur Auswertung von Röntgen-, CT- und MRT-Aufnahmen. Das Ministerium für Familie, Arbeit und Sozialpolitik baut KI-Agenten für mehr als 400 Arbeitsämter, unter anderem mit dem polnischen Modell PLLuM.
- Frankreich: Die zentrale Beschaffungsstelle CANUT hat LINAGORA und Docaposte für einen souveränen digitalen Arbeitsplatz auf Basis von Twake.ai ausgewählt. Abrufen können ihn mehr als 2.500 Einrichtungen wie Gemeinden, Schulen und Kliniken.
- Griechenland: KIEFER errichtet eine Agentenplattform auf einem DGX SuperPOD mit DGX GB200 und setzt auf griechischsprachige Modelle.
Was bedeutet das für Deutschland?
Die Liste zeigt, dass das Thema digitale Souveränität vom Schlagwort zur Ausschreibung wird. Mit Materna und secunet sind zwei etablierte IT-Dienstleister der öffentlichen Hand beteiligt; secunet ist mit SINA bereits Lieferant für Behörden, die mit eingestuften Informationen arbeiten.
Zwei Einschränkungen sollten Sie aber im Blick behalten. Erstens beschreibt NVIDIA Vorhaben, keine abgeschlossenen Einführungen – wann Bürgerinnen und Bürger etwa einen Sinfonie-Avatar im Bürgeramt sehen, ist offen. Zweitens bleibt die Hardware-Abhängigkeit bestehen: Offene Modelle machen die Software unabhängiger, die Rechenzentren laufen aber weiter auf NVIDIA-Chips. Dieselbe Spannung zeigte sich schon beim Container-Rechenzentrum DSX POD, das NVIDIA ebenfalls auf der GTC Berlin vorgestellt hat.
Häufige Fragen
Was ist Soofi?
Soofi steht für „Sovereign Open Source Foundation Models“. Die Forschungsinitiative entwickelt offene KI-Modelle für die deutsche Industrie und den öffentlichen Sektor.
Was ist Sinfonie von Materna?
Eine Plattform, die im eigenen Rechenzentrum läuft und generative KI mit Sprachsteuerung und animierten 3D-Avataren verbindet, etwa für Bürgerdialoge.
Welche Rolle spielt die Deutsche Telekom?
Deutsche Telekom und T-Systems haben laut NVIDIA die Rechenleistung für den Open Models Codefest bereitgestellt, mit der Teams Sprachmodelle trainierten und einsetzten.
