Staatliche KI muss
besser geregelt werden

Wer das Strassenverkehrsamt des Kantons Aargau ausserhalb der Öffnungszeiten anruft, wird mit einem Voicebot verbunden. Der Roboter mit dem Namen «Vicky» gibt Auskunft auf Standardfragen wie «Wie löse ich mein Auto ein?». Er versteht auch Schweizerdeutsch und lernt nach Angaben des Kantons laufend dazu.¹ «Vicky» ist eines von zahlreichen Beispielen für die Anwendung von künstlicher Intelligenz (KI) durch die öffentliche Verwaltung.

«Der Roboter ‹Vicky› gibt Auskunft auf Standard­fragen wie ‹Wie löse ich mein Auto ein?›. Er versteht auch Schweizerdeutsch und lernt laufend dazu.»

Die Hoffnung, Aufgaben besser und/oder effizienter zu erfüllen, beflügelt KI-Vorhaben nicht nur in der Privatwirtschaft. Doch während über die Notwendigkeit und die Ausgestaltung der Regulierung von KI im Privatsektor zurzeit eifrig debattiert wird (beispielsweise im Zusammenhang mit ChatGPT), stösst der Einsatz von KI bei Bund und Kantonen auf weniger Aufmerksamkeit. Doch auch hier werden Projekte verfolgt, die wichtige Rechtsfragen aufwerfen.

Mailbot und maschinelles Lernen

KI ist ein Sammelbegriff, der verschiedene Technologien umfasst. Das EU-Parlament hat sich jüngst im Entwurf für ein KI-Gesetz auf eine Definition verständigt. Demnach handelt es sich bei einem KI-System um ein maschinengestütztes System, das so konzipiert ist, dass es mit unterschiedlichen Autonomiegraden arbeitet, und das zu expliziten oder impliziten Zwecken Ergebnisse wie Vorhersagen, Empfehlungen oder Entscheidungen erzeugen kann, die physische oder virtuelle Umgebungen beeinflussen.² KI soll helfen, Prozesse zu automatisieren sowie Erkenntnisse aus grossen Datenmengen zu gewinnen und nutzbar zu machen.

Für die Bundesverwaltung führt das Kompetenznetzwerk für künstliche Intelligenz (Competence Network for Artificial Intelligence, CNAI) eine Liste mit KI-relevanten Vorhaben.³ Sie dient in erster Linie dazu, den Erfahrungsaustausch unter den Bundesstellen zu erleichtern. Die Bundesstellen sind aber nicht verpflichtet, ihre Projekte einzutragen. Es gibt auch keine verbindlichen Vorgaben dazu, welche Informationen gemeldet werden müssen. So fehlen in der Liste wichtige Angaben, insbesondere zu den genutzten Trainingsdaten. Dennoch schafft sie eine gewisse Transparenz über die KI-Projekte der Bundesverwaltung, per 11. April 2023 immerhin insgesamt 45. Dazu zählt ein Mailbot des IT-Helpdesks des Eidgenössischen Departements für auswärtige Angelegenheiten, der eingehende Support-Anfrage-Mails thematisch analysiert, einem Gebiet zuordnet und priorisiert. Zudem identifiziert dieser Bot aufgrund ähnlicher Fälle bestehende Hilfestellungen und schickt diese als ersten Lösungsvorschlag zurück. Ein anderes Projekt ist ein vom Bundesamt für Energie (BFE) unter dem Namen «Data Science for Energy Policy» entwickelter Prototyp, der den Mehrwert von Data Science für die Arbeiten des BFE aufzeigen soll. Mit Hilfe verschiedener Methoden maschinellen Lernens soll z.B. die Anfälligkeit der Verteilnetzbetreiber in bezug auf Cyberangriffe analysiert oder der nationale Stromendverbrauch vorhergesagt werden.

Rechtsgrundlage erforderlich

Auch die Kantone haben diverse Vorhaben lanciert. Im Kanton Zürich wurde ein Projekt zur Triage von Kantonsratsanfragen mit Hilfe von Machine Learning durchgeführt.⁴ Und mit Hilfe der Software Precobs werden im Aargau aufgrund von Vergangenheitsdaten Vorhersagen über die Wahrscheinlichkeit von Einbrüchen beziehungsweise gefährdete Gebiete getroffen.⁵

Für staatliches Handeln ist gemäss dem Legalitätsprinzip eine sowohl hinsichtlich der Normstufe (Gesetz oder Verordnung) als auch der Normdichte (Detaillierungsgrad) ausreichende Rechtsgrundlage erforderlich. Das gilt auch für den Einsatz von KI. Dabei ist allerdings nicht jeder KI-Einsatz mit den gleichen Herausforderungen verbunden, und entsprechend gelten nicht für jede Anwendung dieselben Anforderungen an die Rechtsgrundlage. Wenn der KI-Einsatz aber Einschränkungen von Grundrechten – z.B. das Diskriminierungsverbot oder die persönliche Freiheit – mit sich bringt, sind die Anforderungen strenger. Dasselbe gilt, wenn der Einsatz von KI rechtsstaatliche Verfahrensgarantien beeinträchtigt – wie den aus dem rechtlichen Gehör fliessenden Anspruch auf vorgängige Äusserung und Mitwirkung in Verwaltungsverfahren oder den Anspruch auf Begründung einer Verfügung. Ausserdem ist für die Bearbeitung besonders schützenswerter Personendaten oder in Fällen des Profilings nach den datenschutzrechtlichen…