Datenschutzkonforme Nutzung von GenAI in der öffentlichen Verwaltung
KI-basierte Lösungen bieten ein grosses Potential für eine effiziente und zielgerichtete öffentliche Verwaltung. Die Herausforderung dabei ist es, Innovation und Datenschutz in Einklang zu bringen.
Steckbrief
- Beteiligte Departemente Technik und Informatik
- Institut(e) Institute for Data Applications and Security (IDAS)
- Forschungseinheit(en) IDAS / Applied Machine Intelligence
- Strategisches Themenfeld Themenfeld Humane Digitale Transformation
- Förderorganisation Andere
- Laufzeit (geplant) 11.12.2024 - 31.05.2025
- Projektleitung Prof. Dr. Annett Laube
-
Projektmitarbeitende
Peter von Niederhäusern
Prof. Dr. Jürgen Vogel - Partner Kantonaler Datenschutzbeauftragter Luzern
- Schlüsselwörter KI, AI, Generative KI, GenAI, Language Models, LLM, SLM, Öffentliche Verwaltung, Datenschutz, Privatsphäre, IT-Sicherheit
Ausgangslage
Für den Einsatz von KI in der öffentlichen Verwaltung sind eine Reihe von allgemeingültigen Grundsätzen relevant. Von zentraler Bedeutung sind der menschenzentrierte Einsatz von KI, die Verhinderung von Diskriminierung (Voreingenommenheit) und der Schutz anderer Menschenrechte, die Pflicht zur Begründung rechtlicher Entscheidungen sowie Privatsphäre und Datenschutzrechte.
Vorgehen
In dieser Studie im Auftrag des Datenschutzbeauftragten des Kantons Luzern werden rechtliche, organisatorische und technische Rahmenbedingungen und Herausforderungen untersucht, um speziell Lösungen auf Basis von Generative AI (GenAI) wie Sprachmodellen (Language Models LM) für öffentliche Verwaltungen und andere Organe des öffentlichen Rechts praktisch nutzbar zu machen, unter besonderer Berücksichtigung einer datenschutzkonformen Umsetzung und der Sicherstellung der digitalen Souveränität. Die inhaltliche Ausarbeitung der Studie basiert dabei auf einer wissenschaftlichen Literaturrecherche zum aktuellen Stand der Forschung. Bei Recherchen zu Anwendungsfällen haben wir uns auf öffentliche Verwaltungen und andere Organisationen des öffentlichen Rechts in der Schweiz und in Europa fokussiert. Weiterhin stützt sich der Bericht auf eine Marktstudie zu technischen Komponenten für eine mögliche Umsetzung von GenAI-Lösungen, die Expertise und Erfahrungen der Autoren, und nicht zuletzt auf drei Interviews mit Experten aus dem Kanton Luzern.
Ergebnisse
Zunächst wurden relevante Forschungsarbeiten und Lösungen im Bereich GenAI vorgestellt sowie die Ausgangslage und Zielstellung im Kanton Luzern dargestellt. Dies diente als Basis für strategische Ansätze zur Modulauswahl, Betrieb inkl. IT-Sicherheit und Prompt Management. Neben einer Auslistung von allgemeinen Massnahmen zur datenschutzkonformen Implementierung entlang des Lebenszyklus von KI-Modellen wurden auch vier exemplarische Anwendungsfälle (Chatbot für Bürger/innen, Office-Applikationen, Fallbearbeitung mit Fachapplikation, Sprach-Erkennung und -Protokollierung) konkretisiert. Die Studie schliesst mit Handlungsempfehlungen für die Umsetzung datenschutzkonformer GenAI/LM-Lösungen.
Ausblick
Die Integration von GenAI in der öffentlichen Verwaltung bietet grosse Chancen, stellt jedoch zugleich hohe Anforderungen an Sicherheit, Datenschutz, und die Schulung der Mitarbeitenden. Eine risikobasierte und transparente Implementierung und deren kontinuierliche Anpassung ist der Schlüssel zum Erfolg.
