KI in der IT-Beschaffung: Handreichung für öffentliche Auftraggeber

Digitale Souveränität beginnt nicht im Rechenzentrum, sondern im Kopf

Einsatz von KI in Vergabeverfahren

In den Teilen 1–4 der vorigen Reihe haben wir gesehen, wie öffentliche Auftraggeber IT mit KI-Komponenten beschaffen (Teile 1 und 2), wie sie reine KI-Lösungen ausschreiben können (Teil 3) und wie sie KI im Vergabeverfahren selbst einsetzen könnten (Teil 4). In diesem Beitrag geht es um etwas, das all diesen Fragen vorausgeht: Können Vergabestellen KI überhaupt „kompetent“ beschaffen?

Meine These lautet: Nein – in der Regel noch nicht. Und das ist kein Makel einzelner Behörden oder Personen, sondern ein systemisches Problem, das sich an den üblichen Souveränitätsdebatten ablesen lässt. Wir reden fast ausschließlich über Infrastruktur – über Serverstandorte, Cloud-Betreiber und Lizenzmodelle. Was wir kaum diskutieren: die Kompetenz, KI zu verstehen, zu bewerten und souverän einzusetzen. Das ist die eigentliche digitale Souveränität. Und seit dem 2. Februar 2025 ist sie keine freiwillige Ambition mehr, sondern zudem einzuhaltendes Recht. Und laut glaubhaften Gerüchten am Markt werden die kommenden KI-Generationen Souveränität im Sinne von sicher gewähnter IT weiter in Wanken bringen.

Die Infrastrukturdebatte – richtig, aber unvollständig

Wer in den letzten drei Jahren auf Fachveranstaltungen oder in Gremiensitzungen das Stichwort „digitale Souveränität‘ gehört hat, wird vor allem eines mitgenommen haben: Es geht meistens um Cloud und Drittstatten-Hersteller. Um die Frage, ob Daten in deutschen Rechenzentren liegen. Um Hyperscaler vs. europäische Anbieter. Um Delos vs. Open Source. Um Microsoft-Lizenzen vs. ZenDiS.

Aber: Infrastruktur ohne Kompetenz ist wie ein Rechenzentrum ohne Administratoren – sie steht, nutzt aber niemandem etwas. Eine Definition digitaler Souveränität lautet: „die Fähigkeiten und Möglichkeiten von Individuen und Institutionen, ihre Rolle(n) in der digitalen Welt selbständig, selbstbestimmt und sicher ausüben zu können.‘ Das ist eine kompetenzbasierte Definition. In der Praxis aber reduzieren wir sie auf Beschaffungsentscheidungen über Hardware und Hosting – und verwechseln Souveränität mit Autarkie. Und die Drittstaaten-Marktdominanz bei KI verbessert die Situation nicht gerade.

Digitale Souveränität bedeutet letztendlich nicht, KI zu vermeiden, nur weil Drittstaaten involviert sind. Sie bedeutet erst einmal, KI zu verstehen. Eine modular aufgebaute, auf einen konkreten Anwendungsfall ausgerichtete KI-Lösung kann so konzipiert werden, dass das eigentliche KI-Modell austauschbar bleibt – sofern die beschaffende Stelle weiß, wonach sie fragen muss, was sie eigentlich konzipieren will. Genau das ist der Kern des Problems. Und genau das hat der europäische Gesetzgeber geregelt.

Art. 4 KI-VO: Die Kompetenzpflicht als geltendes Recht

Seit dem 2. Februar 2025 gilt Art. 4 der KI-Verordnung (VO (EU) 2024/1689). Er gehörte zusammen mit den Verboten des Art. 5 zu den ersten Vorschriften, die in Kraft getreten sind – lange vor den Hochrisiko-Pflichten, die erst ab August 2026 greifen. Was hier früh gilt, gilt bewusst: Der EU-Gesetzgeber hat die Kompetenzfrage als Grundlage gesetzt, nicht als nettes Beiwerk.

Der Wortlaut ist unmissverständlich: Anbieter und Betreiber von KI-Systemen müssen Maßnahmen ergreifen, um sicherzustellen, dass ihr Personal und andere mit dem Betrieb und der Nutzung von KI-Systemen befasste Personen über ein „ausreichendes Maß an KI-Kompetenz‘ verfügen. Dabei sind technische Kenntnisse, Erfahrung, Ausbildung und Schulung sowie der Einsatzkontext zu berücksichtigen.

Vier Aspekte sind für öffentliche Auftraggeber besonders relevant:

Erstens: Die Pflicht gilt für alle KI-Systeme, unabhängig von der Risikoklasse. Nicht nur Hochrisiko-KI, nicht nur spezielle Anwendungen – jedes KI-System. Das betrifft, wie ich in Teil 1 ausgeführt habe, längst auch Standardprodukte: Telefonanlagen, Office-Suiten, Helpdesk-Systeme, Security-Tools. KI ist heute in praktisch jedem IT-Produkt enthalten.

Zweitens: Der Maßstab ist „nach besten Kräften‘ – eine Best-Effort-Pflicht, keine Garantiepflicht. Das klingt zunächst beruhigend. Es heißt aber nicht, dass nichts passieren muss. Das BMDS und die BAköV haben im Oktober 2025 ausdrücklich klargestellt: Das bloße Lesen einer Gebrauchsanweisung dürfte „regelmäßig nicht ausreichend‘ sein. Und in Haftungsprozessen kann das Nichtergreifen gebotener Maßnahmen als Verletzung einer Sorgfaltspflicht gewertet werden (Kanzlei Noerr).

Drittens: Öffentliche Auftraggeber fallen als „Betreiber‘ im Sinne der KI-VO in den Anwendungsbereich, wenn sie KI-Systeme unter eigener Verantwortung einsetzen. Das ist nicht exotisch – es ist der Normalfall. Jede Behörde, die ein KI-gestütztes Fachverfahren betreibt, einen Chatbot auf ihrer Webseite einsetzt oder ein KI-basiertes Posteingangsverarbeitungssystem nutzt, ist Betreiber.

Viertens: Öffentliche Auftraggeber, die eine anbieterseitig als KI mit begrenztem Risiko deklarierte KI einkaufen und diese in einem Anwendungsfall einsetzen, welcher gemäß KI-VO als Hochrisiko einzustufen ist (z.B. Chatbot im Bereich Gesundheitsdienstleistungen), werden im Sinne der KI-VO unmittelbar zum Anbieter der veränderten KI – mit allen daraus resultierenden Pflichten, wie z.B. Risikomanagementsystem, Qualitätsmanagement, Konformitätsbewertung, Registrierung, etc..).

Praxistipp Prüfen Sie jetzt – nicht irgendwann – ob und welche KI-Systeme in Ihrer Organisation bereits im Einsatz sind. Die Pflicht aus Art. 4 KI-VO ist seit über einem Jahr geltendes Recht. Ohne Bestandsaufnahme fehlt die Grundlage für jede weitere Compliance-Maßnahme. Beginnen Sie mit Microsoft 365 Copilot, der Telefonanlage oder einem Fachverfahren.

Was das für Ihre Vergaben bedeutet

Kompetenzpflicht und Beschaffungspraxis hängen unmittelbar zusammen – und zwar enger, als viele Vergabestellen ahnen.

Der Fachanwalt für Vergaberecht Aeneas Niklas Marxen hat es auf Vergabeblog.de im November 2025 auf den Punkt gebracht: Pflichten, die für den Auftraggeber aus der KI-VO erwachsen, können häufig nicht mittels vertraglicher Regelungen auf den Vertragspartner übertragen werden. Das betrifft insbesondere die Betreiberpflichten des Art. 26 KI-VO (menschliche Aufsicht, Grundrechtefolgeabschätzung nach Art. 27) und die Kompetenzpflicht des Art. 4. Sie können also nicht einfach „KI-VO-Compliance‘ in Ihre Leistungsbeschreibung schreiben und sich damit absichern. Sie müssen selbst verstehen, was Sie beschaffen.

Das hat Konsequenzen – in jedem Schritt des Vergabeverfahrens:

Leistungsbeschreibung: § 121 Abs. 1 S. 1 GWB verlangt eine klare und eindeutige Leistungsbeschreibung. Wie wollen Sie eine KI-Lösung hinreichend beschreiben, wenn Sie nicht wissen, was ein Sprachmodell ist, was RAG bedeutet oder warum der Unterschied zwischen deterministischem und probabilistischem Verhalten für Abnahmekriterien entscheidend ist?

Verfahrenswahl: Für reine KI-Beschaffungen empfehlen sich in der Regel das Verhandlungsverfahren (§ 14 Abs. 3 Nr. 4 VgV) oder der Wettbewerbliche Dialog (§ 18 VgV). Wer nicht versteht, warum ein offenes Verfahren bei KI regelmäßig ungeeignet ist, wählt das falsche Verfahren.

Angebotsbewertung: bieterseitig KI-generierte Konzepte sind bei genauer Prüfung inhaltlich oftmals oberflächlich – wer Oberfläche nicht von Substanz unterscheiden kann, bewertet das Falsche.

Vendor Lock-in: Der EuGH hat in der Entscheidung C-578/23 (Januar 2025) die Risiken übermäßiger Abhängigkeit von einzelnen Anbietern behandelt. Wer die Architektur eines KI-Systems nicht versteht – Modell, Trainingsdaten, Schnittstellen, Datenportabilität, modulare Strukturen, Migrationsfähigkeit – kann Lock-in weder erkennen noch vermeiden.

Ein oft unterschätzter Aspekt ist dabei die Frage der kulturellen Wertebasis. Ohne Hintergrundwissen über Training, Guardrails und Systemprompts eines KI-Systems beschaffen Sie nicht nur Technologie – Sie beschaffen implizit auch die Wertvorstellungen des Entwicklerlandes mit (z. B. USA oder China). Das soll nicht abschrecken, sondern informieren: Eine Chat-KI, die nach amerikanischen Trainingsdaten optimiert wurde, wird Prozesse in deutschen Behörden – direkt oder indirekt – prägen. Wer das weiß, kann damit umgehen. Wer es nicht weiß, wird gesteuert.

Praxistipp Wenn Ihre Vergabestelle intern nicht über KI-Expertise verfügt, ist das kein Makel – aber es erfordert eine Konsequenz: Ziehen Sie KI-fachliche Beratung und rechtliche Expertise vor der Ausschreibung hinzu, nicht erst bei der Angebotsbewertung. Die Weichen werden vor der Bekanntmachung gestellt, nicht beim Zuschlag.

Die Waffenungleichheit – das Kompetenzgefälle in Echtzeit

Bieter nutzen KI heute bereits intensiv – für die Angebotserstellung, die Beantwortung von Kriterien, die Optimierung von Konzepten.

Vergabestellen dagegen nutzen KI in der Regel nicht, weil datenschutzrechtliche Bedenken eine On-Premises-Lösung erfordern, die auch noch technisch dafür geeignet sein müsste – und wer verfügt schon über eine solche? Das Ergebnis: Die eine Seite optimiert ihre Angebote mit KI, die andere bewertet sie ohne. Wer nicht versteht, wie KI-generierte Texte aussehen, wie sie sich von menschlich erstellten unterscheiden und wo ihre typischen Schwächen liegen, bewertet im Zweifel falsch.

Auch vertragsseitig stehen beide Seiten noch weitgehend ohne Orientierung da. Die Europäische Kommission hat im September 2023 die Model Contractual Clauses for AI (MCC-AI) veröffentlicht, die im März 2025 an den AI Act angepasst wurden – in zwei Varianten: für Hochrisiko-KI und für sonstige KI-Systeme. Marxen warnt allerdings zu Recht: Diese Musterklauseln sind für die deutsche Beschaffungspraxis nur eingeschränkt brauchbar. Sie wiederholen im Wesentlichen den Verordnungstext und berücksichtigen weder die spezifischen Anforderungen des deutschen Vergaberechts noch die vertraglichen Eigenheiten der EVB-IT.

Das Ergebnis: Die Lücke zwischen den Möglichkeiten der Bieter und dem Rüstzeug der Vergabestellen wird täglich größer. Art. 4 KI-VO ist ein Impuls, dieser Entwicklung entgegenzuwirken – aber er entfaltet nur Wirkung, wenn er ernst genommen wird.

Was existiert – und was fehlt

Fairerweise muss man sagen: Es gibt Initiativen in Richtung KI-Beschaffung – auch wenn sie den Aspekt Digitale Souveränität zumeist nur indirekt berücksichtigen.

Das Beratungszentrum für Künstliche Intelligenz (BeKI) beim Bundesministerium für Digitales und Staatsmodernisierung berät Bundesbehörden und hat gemeinsam mit der BAköV einen Handlungsleitfaden zum KI-Kompetenzaufbau nach Art. 4 KI-VO erarbeitet. Die BAköV bietet einen KI-Lernpfad mit gestaffelten Schwierigkeitsgraden an. KOINNO hat Handreichungen zur KI-Beschaffung veröffentlicht und konstatiert, dass KI-Anwendungen in der Beschaffung „weitgehend unerschlossen‘ seien. Auf Landesebene gibt es lediglich LLM-Plattformen wie F13 (Baden-Württemberg), NRW.Genius oder Bayern.GPT. Der IT-Planungsrat hat den Marktplatz der KI-Möglichkeiten (MaKI) beschlossen, der ab 2027 als Transparenzregister für KI-Systeme der Bundesverwaltung dienen soll.

All diese Initiativen haben etwas gemeinsam: Es fehlt der Aspekt Beschaffung – in Richtung Handreichung und Schulungen. Die existierenden Angebote richten sich lediglich an die allgemeine Bundesverwaltung (BAköV), die fachliche Beratung (BeKI) oder die innovative Beschaffung allgemein (KOINNO) – aber keine davon verbindet KI-Fachwissen gezielt mit Vergabepraxis.

Und Digitale Souveränität als Abwägungsdimension fehlt fast vollständig. Das ist die eigentliche Lücke: Man muss verstehen, was KI technisch kann und nicht kann – und man muss wissen, wie man diese Anforderungen vergabekonform abbilden kann und dabei die eigenen Souveränitätsziele nicht unterhöhlt. Rein juristische Datenschutzschulungen greifen hier zu kurz. Und rein technische KI-Einführungen helfen wenig, wenn die Teilnehmer nicht wissen, was ein Eignungskriterium von einem Zuschlagskriterium unterscheidet. Der dbb Beamtenbund bringt es auf den Punkt: Die Verpflichtung zur KI-Schulung existiert seit Anfang 2025, aber Vorgaben zur Gestaltung gibt es nicht.

Was jetzt passieren muss

Ich bin IT-Berater, kein Hochschulprofessor oder Jurist. Daher spare ich mir den Versuch eines Grundsatzreferates und komme zu dem, was Vergabestellen selbst initiieren können:

Erstens: KI-Bestandsaufnahme antriggern. Welche KI-Systeme sind in Ihrer Organisation bereits im Einsatz – bewusst oder unbewusst? Diese Frage ist die Vorbedingung für jede weitere Maßnahme nach Art. 4 KI-VO. Beginnen Sie mit den Office-Produkten (Microsoft 365 Copilot?), der Telefonanlage und den Fachverfahren.

Zweitens: KI-Verantwortlichkeit hinterfragen. Wer ist für das Thema KI zuständig? Nicht nur für Datenschutz, nicht nur für IT-Sicherheit – für KI als Querschnittsthema. Ohne eine Person, die sich verantwortlich fühlt, ist Fortschritt unwahrscheinlich.

Drittens: Schulungsbedarf ehrlich bewerten. Die BAköV bietet KI-Lernpfade an, BeKI berät, KOINNO informiert. Ergänzen Sie sie aber um vergabespezifische Inhalte: Wie formuliere ich Kriterien für KI-Anbieter? Wie gestalte ich Zuschlagskriterien für probabilistische Systeme? Wie führe ich eine geeignete Teststellung im Verfahren durch?

Viertens: Externe KI-Expertise einplanen. Wenn die eigene Kompetenz fehlt, ist es keine Schwäche, sich Hilfe zu holen – es ist eine Notwendigkeit. Achten Sie aber darauf: Reine KI-Berater kennen die Vergaberegeln nicht. Reine Vergabejuristen verstehen die Technologie nicht. In der Kombination liegt der Mehrwert.

Fünftens: Jede KI-Beschaffung als Lernprojekt begreifen. Der Lerneffekt einer bewusst durchgeführten KI-Beschaffung ist mindestens so wertvoll wie das beschaffte System selbst. Dokumentieren Sie, was funktioniert hat und was nicht. Teilen Sie Ihre Erfahrungen – etwa über das DVNW.