Der Staat kann durch den Einsatz von künstlicher Intelligenz seine Aufgaben effizienter wahrnehmen. Eine zentrale Aufgabe, die dem Menschen zukommt, ist die Kontrolle und das Trainieren von KI-Systemen. Die Arbeit legt für Juristen verständlich die Funktionsweise von sog. selbstlernenden algorithmischen Systemen dar. Vor diesem Hintergrund werden rechtlich unverrückbare Grenzen für den staatlichen Einsatz von künstlicher Intelligenz aufgezeigt. Der Autor kommt zu dem Ergebnis, dass verfassungsrechtliche Grundprinzipien wie das Demokratie- und Rechtsstaatsprinzip, aber auch die Grundrechte dem Staat eine Pflicht auferlegen, eine Kontrollstruktur für den Einsatz von KI zu schaffen. Da es sich bei KI-Systemen um datengetriebene Systeme handelt, erfolgen auch datenschutzrechtliche Untersuchungen. Sie führen zu dem Schluss, dass das Datenschutzrecht allein wegen seiner Fokussierung auf das Individuum keinen geeigneten regulativen Rahmen für KI-Systeme bietet. Insbesondere für den Einsatz von assistierenden KI-Systemen bietet die DSGVO bis auf die Einhaltung der Grundsätze keine konkreten Vorgaben. Sowohl das Verfassungsrecht als auch das Datenschutzrecht setzen voraus, dass der Staat bei einem Einsatz von KI-Systemen eine kontinuierliche Überwachungs- und Kontrollstruktur implementieren muss. Die Vorgaben sind jedoch sehr abstrakt. Das Verwaltungs- und Verfassungsrecht muss zukünftig den staatlichen Einsatz intelligenter Technologien stärker abbilden.
»Insgesamt bietet das Werk einen umfassenden Überblick der Chancen und Hürden des Einsatzes von KI im öffentlichen Sektor. Die ersten beiden Teile stellen die technischen Hintergründe in einer sinnvollen Tiefe dar, um den Lesenden die nötigen Grundkenntnisse zum Verständnis der Funktionsweise von Kl-Systemen zu vermitteln. Die im dritten Teil dargestellten Anwendungsfelder verdeutlichen das Einsatzpotenzial von Kl-Systemen im öffentlichen Sektor, zeigen zugleich aber auch rechtliche Hürden auf, die im vierten Teil vertieft untersucht werden. Erfreulich ist, dass der Autor dem Einsatz von KI im öffentlichen Sektor unvoreingenommen gegenübersteht und die Chancen und möglichen Vorteile eines Einsatzes verdeutlicht, dabei aber mögliche Risiken und zu wahrende rechtstaatliche Prinzipien stets im Blick behält.« Jonas Barthle, in: Legal Tech, 1/2024 »Das Werk überzeugt durch eine anschauliche Darstellung und viele praktische Beispiele. Die rechtliche Analyse liest sich spannend und bleibt auch nach dem Inkrafttreten des AI Act relevant, zumal viele Probleme das nationale Verfassungsrecht betreffen.« Dr. Thomas Rainer Schmitt, in: jusIT, 2/2024 (ART.-NR.: 58) »Alles in allem bereitet die Untersuchung einen fruchtbaren Boden, auf dem weitere Forschung zu einer zentralen Zukunftstechnologie entstehen kann.« Prof. Dr. Johannes Eichenhofer, in: Die Verwaltung, Bd. 56, 3/2023