Beschaffung von KI: Herausforderungen, Chancen und Gestaltungsmöglichkeiten für Öffentliche Auftraggeber und Bieter (Teil 1)

Alle reden von KI. Wir auch! In Teil 1 dieser Beitragsserie klären wir den Begriff der KI und geben einen Überblick zur Beschaffung und zu den möglichen Vergabeverfahren.

I. Was ist KI?

„KI“ steht für „Künstliche Intelligenz“ (auf Englisch: AI bzw. Aritifical Intelligence) und bezeichnet – vereinfacht ausgedrückt – Technologien und Algorithmen, die die menschliche Art und Weise zu agieren, Probleme zu lösen und Entscheidungen zu treffen, nachbilden.

Eine allgemeingültige Definition der Künstlichen Intelligenz existiert nicht, da der Begriff der „Intelligenz“ einen weiten Interpretationsspielraum zulässt.

a) Funktionale Begriffsbestimmung

Der deutsche KI-Forscher Klaus Mainzer beschreibt „KI“ als Systeme, die „selbstständig effizient Probleme lösen können“. ¹⁾

Deutlichere Konturen erlangte der Begriff der „KI“ schon 1955. In einer Studie sollte die Rockefeller Stiftung versuchen herauszufinden „wie man Maschinen dazu bringen kann, Sprache zu benutzen, Abstraktionen und Konzepte zu bilden, Arten von Problemen zu lösen, die heute dem Menschen vorbehalten sind, und sich selbst zu verbessern“. ²⁾

b) Technologische Begriffsbestimmung

Am 21. April 2021 veröffentlichte die EU-Kommission den Entwurf einer KI-Verordnung (KI-VO-E). Sie legte damit nicht nur den Grundstein für einen weltweit einmaligen, umfassenden und harmonisierten Rechtsrahmen für KI, sondern definierte gleichzeitig den Begriff der „KI“.

Gemäß Art. 3 KI-VO-E ist ein „System der künstlichen Intelligenz (KI-System) eine Software, die mit einer oder mehreren der in Anhang I aufgeführten Techniken und Konzepte entwickelt worden ist und im Hinblick auf eine Reihe von Zielen, die vom Menschen festgelegt werden, Ergebnisse wie Inhalte, Vorhersagen, Empfehlungen oder Entscheidungen hervorbringen kann, die das Umfeld beeinflussen, mit dem sie interagieren.“

Wann von einem „KI-System“ die Rede ist, hängt folglich maßgeblich von den im Anhang I der KI-VO-E genannten Techniken und Konzepten ab.

Wie man sieht, ist der Begriff der „Künstlichen Intelligenz“ nicht nur äußerst facettenreich, auch die denkbaren Einsatzfelder sind vielschichtig. Dies macht KI besonders attraktiv für die öffentliche Verwaltung, denn sie verspricht eine Steigerung der Effizienz und Effektivität von Arbeitsabläufen.

II. Warum ist die Beschaffung von KI für Auftraggeber und Auftragnehmer wichtig?

Die öffentliche Hand hat bereits seit Jahren ein gesteigertes Interesse an Liefer- und Dienstleistungen im Zusammenhang mit KI-Systemen.

Das Bundesministerium für Inneres und Heimat geht davon aus, dass „der Einsatz von KI dazu beitragen [könne], Verwaltungsabläufe effizienter zu gestalten, zur Arbeitsentlastung beizutragen und die Kommunikation mit dem Bürger [zu] verbessern“. ³⁾

Dabei ist es förderlich, dass die Bundesregierung als ein Ziel ihrer „KI-Strategie Deutschland“ erklärt:

„Deutschland soll seine starke Position in der Industrie 4.0 ausbauen und führend bei KI-Anwendungen in diesem Bereich werden. Von KI-Anwendungen soll auch unser starker Mittelstand profitieren.“ ⁴⁾

Für Bieter dürfte dies eine wertvolle und strategisch wichtige Erkenntnis sein, da sich zahlreiche Geschäftsfelder um KI-Systeme ranken. Diese bieten für Auftraggeber und Bieter gleichermaßen Chancen. Welche neuen Anwendungsszenarien sich u.a. in den Bereichen Produktion & Industrie, Sicherheit oder Life Science & Health Care herausgebildet haben, präsentiert das Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme IAIS sehr eindrucksvoll anhand von konkreten Beispielen.

III. Wahl der Verfahrensart

Anders als bei der Beschaffung „gewöhnlicher Leistungen“ sollte bei der Beschaffung von KI-Technologien die Wahl der Verfahrensart gut durchdacht sein.

Für derartige Beschaffungen existieren keine „speziellen“ vergaberechtlichen Normen, so dass zunächst auf die üblichen vergaberechtlichen Regelungen (4. Teil des GWB, VgV, SektVO etc.) abzustellen ist.

In Frage kommen sowohl die Innovationspartnerschaft als auch „weniger komplizierte“ Verfahrensarten, soweit diese mit dem Beschaffungsgegenstand vereinbar sind.

Eine wichtige Prüffrage in diesem Zusammenhang dürfte lauten: „Wie eindeutig und erschöpfend kann ich das benötigte KI-System beschreiben?“ Je unwahrscheinlicher es erscheint, dass eine den vergaberechtlichen Grundsätzen entsprechende Leistungsbeschreibung verfasst werden kann, desto eher könnte z.B. ein Verhandlungsverfahren mit Teilnahmewettbewerb in Betracht gezogen werden.

Nach § 14 VgV stehen Auftraggebern grundsätzlich folgende Verfahrensarten zur Verfügung:

– „Offenes Verfahren“ (einstufig) oder „nicht offenes Verfahren“ (zweistufig)

– „Verhandlungsverfahren mit Teilnahmewettbewerb“ (zweistufig) oder „wettbewerblicher Dialog“ (dreistufig), soweit eine der Voraussetzungen des § 14 Abs. 3 VgV erfüllt ist

– „Verhandlungsverfahren ohne Teilnahmewettbewerb“ (einstufig), soweit eine der Voraussetzungen des § 14 Abs. 4 und ggf. 6 VgV erfüllt ist.

Sonderfall: Innovationspartnerschaft

2019 sah der damalige Staatssekretär Dr. Ulrich Nußbaum in der Innovationspartnerschaft das geeignete Vergabeverfahren für die Beschaffung von KI und legte damit den „Finger in die Wunde.“

Auf die Kleine Anfrage des Abgeordneten Manuel Höferlin (FDP), welche vergaberechtlichen Vorgaben aus Sicht der Bundesregierung bei der Beschaffung einer Künstlichen Intelligenz (KI) durch die öffentliche Hand zu beachten sind und worauf bei der konkreten Ausgestaltung solcher Ausschreibungen hinsichtlich der vergaberechtlichen Vorgaben, insbesondere bei der genauen Formulierung des Auftrags, zu achten ist, antwortete der Staatssekretär am 8. Mai 2019

„[…] Die Vergaberechtsmodernisierung 2016 hat die Möglichkeiten von Auftraggebern, im Vergabeverfahren innovative und qualitative Aspekte zu berücksichtigen, wesentlich erweitert. Dies kommt auch der Beschaffung von KI zugute, unter anderem dadurch, dass auch innovative Eigenschaften der Leistung der Entscheidung über den Zuschlag zugrunde gelegt werden können. Hilfreich für die Beschaffung von KI kann auch die Innovationspartnerschaft als eine im Zuge der Vergaberechtsmodernisierung neu eingeführte Verfahrensart sein.“ ⁵⁾

Gemäß § 19 VgV verfolgt die Innovationspartnerschaft das Ziel der „Entwicklung einer innovativen Liefer- oder Dienstleistung und deren anschließenden Erwerb“. Gleichzeitig dürfe der Beschaffungsbedarf „nicht durch den Erwerb von bereits auf dem Markt verfügbaren Leistungen befriedigt werden können“.

Bei der Innovationspartnerschaft handelt es sich um ein zweistufiges Vergabeverfahren, das sich aus einem Teilnahmewettbewerb und einer Verhandlungsphase zusammensetzt. Sie ist nach der Zuschlagserteilung in zwei aufeinanderfolgende Phasen strukturiert:

– die „Forschungs- und Entwicklungsphase“, die die Herstellung von Prototypen oder die Entwicklung der Dienstleistung umfasst (Nr. 1), und

– die „Leistungsphase“, in der die aus der Partnerschaft hervorgegangene Leistung erbracht wird (Nr. 2).

Für den Bieter birgt das durchaus „Gefahren“:

• Der Zuschlag wird erteilt, bevor die konkrete (vom Bieter zu erbringende) Leistung abschließend definiert ist.
• Der Auftraggeber kann am Ende jedes Entwicklungsabschnitts die Innovationspartnerschaft kündigen. Um von diesem Recht Gebrauch machen zu dürfen, muss er in der Auftragsbekanntmachung oder in den Vergabeunterlagen auf diese Möglichkeit und auf die näheren Umstände dieses Kündigungsrechts hingewiesen haben.
• Zum Erwerb der innovativen Leistung sind Auftraggeber nur verpflichtet, soweit das bei Eingehung der Innovationspartnerschaft vereinbarte Leistungsniveau und die Kostenobergrenze eingehalten werden (§ 19 Abs. 9 VgV).

IV. Fazit &  Ausblick

• Auftraggeber und Bieter sollten sich rechtzeitig mit den Besonderheiten der Beschaffung von KI-Systemen beschäftigen, um entstehende Beschaffungsbedarfe zeitnah umsetzen zu können.
• Hierzu gehört – neben einem grundlegenden Verständnis des Beschaffungsgegenstands „KI“ – ein Gespür für die Wahl der richtigen Verfahrensart zu entwickeln.
• Unternehmen, die sich an einer Innovationspartnerschaft beteiligen, sind gut beraten, die Vergabeunterlagen und den konkreten Verfahrensablauf besonders sorgfältig zu prüfen bzw. prüfen zu lassen. So dürften Bieter ein besonders großes Interesse an angemessenen Vorkehrungen zum Schutz ihres geistigen Eigentums haben. § 19 VgV nimmt Auftraggeber in die Pflicht, entsprechende Regelungen in den Vergabeunterlagen vorzusehen.
• Außerdem sollten Bieter im Fall einer Innovationspartnerschaft möglichst realistische und auskömmliche Leistungsniveaus und Kostenobergrenzen vereinbaren, um erhebliche Kostenrisiken und Planungsunsicherheiten zu vermeiden.
• Welche Aspekte Auftragnehmer und Auftraggeber bei der Vertragsgestaltung zu berücksichtigen haben, erfahren Sie in Teil 2 dieser Beitragsreihe.

Quellen

1) Mainzer, Klaus. 2016: Künstliche Intelligenz – wann übernehmen die Maschinen? Wien: Springer.

2) McCarthy, John, Marvin L. Minsky, Nathaniel Rochester, und Claude E. Shannon. 1955: A Proposal for the Dartmouth Summer Research Project on Artificial – http://jmc.stanford.edu/articles/dartmouth/dartmouth.pdf

3) https://www.cio.bund.de/Webs/CIO/DE/digitale-loesungen/datenpolitik/daten-und-ki/daten-und-ki-node.html

4) https://www.ki-strategie-deutschland.de/home.html

5) Drucksache 19/10303, https://dserver.bundestag.de/btd/19/103/1910303.pdf