Mit dem raschen Aufkommen der künstlichen Intelligenz (KI) im öffentlichen Sektor und ihrer Nutzung durch die öffentliche Hand wird deren Einsatz zu einer grossen Herausforderung. Die Jugendsession ist sich dieser Situation bewusst und möchte mit folgenden drei Massnahmen einen Rahmen für die Nutzung der KI schaffen: wenn KI für eine automatisierte Dienstleistung (Chatbots, automatisierte Empfehlungen) oder eine Entscheidung (Börse, Subventionen, Erhalt eines Wohnsitzes) eingesetzt wird, soll die betroffene Person systematisch darüber informiert werden; die Anweisungen und Kriterien, die in das KI-Tool eingegeben wurden, um die Dienstleistung zu erbringen oder die Entscheidung zu fällen (Anforderungen, Zahlen und Werte, logische Prozesse), sollen der betroffenen Person mitgeteilt werden; die Details des Codes, des Algorithmus und der Trainingsdaten der für diese Vorgänge in einem öffentlichen Kontext geschaffenen und verwendeten KI-Programme sollen öffentlich zugänglich gemacht werden (Open Source) – mit Ausnahme von Tools, die einem erhöhten Vertraulichkeitsanspruch unterstehen, wie Beispiele im Bereich der nationalen Sicherheit.
Dank diesen Massnahmen wird der öffentliche Entscheidungsprozess transparent, während die Entscheidungen ansonsten undurchsichtig wären. Zudem können die Bürger*innen so kontrollieren, ob die genutzten Tools gut funktionieren, sodass allfällige Verzerrungen aufgedeckt werden können. Ein Beispiel für solche Verzerrungen ist die sogenannte «Toeslagen-Affäre» in den Niederlanden. In diesem Fall wurde eine selbstlernende KI eingesetzt, um möglichen Betrug beim Bezug von Kindergeld zu identifizieren. Dabei wurden über 20 000 Familien auf der Grundlage von diskriminierenden Kriterien, insbesondere dem Migrationshintergrund, fälschlicherweise «beschuldigt». Die betroffenen Familien wurden aufgefordert, die Beihilfen, die sie rechtmässig erhalten hatten, zurückzuzahlen, was sie in finanzielle Schwierigkeiten brachte oder sogar in die Armut drängte. Als dies ans Licht kam, hat die Situation einen grossen Skandal ausgelöst und schliesslich zum Rücktritt der niederländischen Regierung geführt. Um diese Probleme anzugehen, sollen mit den in dieser Motion vorgeschlagenen Massnahmen die Grundlagen für eine verantwortungsbewusste Nutzung der künstlichen Intelligenz im öffentlichen Sektor in der Schweiz gelegt und somit Transparenz und Kontrolle durch die Bürger*innen gewährleistet werden. So kann die Schweiz das enorme Potenzial dieser neuen Technologie nutzen und gleichzeitig die möglichen Risiken, die mit ihrer Nutzung einhergehen, vorbeugen.
| Keine Anlagen hinterlegt. |
Nachverfolgung durch das Forum abgeschlossen? nein