Beschaffung von KI - Was ist rechtlich zu beachten?

Auswirkungen der Regulatorik auf die Vergabe- & Vertragskonzeption

Hintergrund

Ob die Verwaltung in den kommenden Jahren noch effizienter und bürgernäher werden kann, entscheidet sich nicht perspektivisch und abstrakt bis zum Ende der aktuellen Legislatur, sondern ganz konkret schon durch die heutigen Beschaffungsvorhaben. Maßgeblich ist, wie ernst der Public Sector den Innovationssprung KI nimmt und inwieweit schon heute in vorhandene KI-Tools oder deren Entwicklung investiert wird. Wer zukünftig eine bedarfsgerechte KI einsetzen will, muss diese anhand der eigenen use cases erstellen und mit zeitlichem Vorlauf trainieren (lassen) oder am Markt erhältliche Standard KI-Systeme in die eigenen Prozesse integrieren (lernen).

KI-Beschaffung ist aber keine gewöhnliche IT-Beschaffung. Die Komplexität der Bedarfs- und Anforderungsanalyse ist erheblich erhöht. KI-Beschaffung, deren Einsatz und/oder Betrieb müssen innerhalb des regulatorischen Rahmens, bestehend u.a. aus EU AI ACT und DSGVO, erfolgen. Die Beschaffung von KI-Systemen und damit die Konzeptionierung des Vergabeverfahrens sowie der Vergabe- und Vertragsunterlagen ist daher sehr anspruchsvoll. Auftraggeber sind gut beraten, schnellstmöglich ein „AI-Procurement-Knowhow“ aufzubauen.

Das Seminar bietet einen Leitfaden in praktischer und rechtlicher Hinsicht und erläutert wichtige Erfahrungen aus der KI-Beschaffungspraxis.

Methodik

Das Seminar vermittelt systematisch die Besonderheiten einer KI-Beschaffung entlang des Prozesses der Vorbereitung und Durchführung einer Vergabe. Welche Stellschrauben ändern sich bei der Beschaffung von KI-Systemen? Welche Pflichten aus EU AI ACT und DSGVO sind zu beachten und welche Auswirkungen haben diese auf die Vertragsgestaltung und die Wahl des EVB-IT Vertragsmodells?

Es wird eine Vermittlung der Inhalte im Dialog angestrebt, sodass zu jedem Zeitpunkt die Möglichkeit besteht, Rückfragen zur eigenen, aktuellen Beschaffungspraxis zu stellen.

Teilnehmerkreis

Das Seminar richtet sich an sämtliche Beteiligte im Bereich der öffentlichen Auftragsvergabe: Es werden sowohl Mitarbeitende aus Vergabestelle, Einkauf & Rechtsabteilung auf Seiten des öffentlichen Auftraggebers sowie Mitarbeitende aus dem Vertrieb & Rechtsabteilung auf Seiten der Bieter adressiert.

Seminarinhalte

1. Allgemeine Einführung in KI: Arten und Use Cases im Public Sector

• GenAI
• KI-Agenten

2. KI-Beschaffung & die Besonderheiten bei der Vergabekonzeption

3. KI-Beschaffung & Regulatorik – Auswirkung auf Leistungsbeschreibung und Vertragswerk

• EU-AI-Act & Mustervertragsklauseln
• DSGVO konforme Nutzung von KI-Systemen
• Sonstige Regulatorik

4. KI-Beschaffung & Vertragskonzeption

• Vertragsgestaltung
• EVB-IT Vertragsmodelle

5. KI-Beschaffung & Eignungskriterien: Welche Anforderungen sind zielführend?

6. KI-Beschaffung & Zuschlagskriterien: Ermittlung der Wirtschaftlichkeit

• Entwicklung aussagekräftiger Bewertungskriterien
• Konzeptbewertung
• (Bewertende) Teststellung als objektives Bewertungstool