Zum 1. August 2024 ist die europäische KI-Verordnung – auf Englisch „AI-Act“ – in Kraft getreten. Diese neue Verordnung schafft – ähnlich wie 2018 die Datenschutz-Grundverordnung – einheitliche Rahmenbedingungen für alle europäischen Staaten, wie Künstliche Intelligenz eingesetzt werden soll.
Worum geht es in der KI-Verordnung? Systeme sollen zukünftig nach Risiko-Gruppen bewertet werden. Eine KI-Anwendung, die mit besonders sensiblen Daten arbeitet oder eine sehr große Datenmenge verarbeitet, ist somit riskanter als eine KI, die kaum auf personenbezogene Daten zurückgreift. Solche Minimal-Risiko-Systeme sind zum Beispiel Spamfilter in E-Mailsystemen. Auch geht es darum, wo ein System zum Einsatz kommt. Bei der Polizei und Strafverfolgung, der Justiz oder auch bei Wahlen, wären die Konsequenzen, wenn ein System falsch oder manipuliert arbeitet, verheerend. Daher müssen die Anbieter von sogenannten Hochrisikosystemen hier besondere Schutzmaßnahmen ergreifen.
Ganz verboten wird durch die KI-Verordnung das Social Scoring, also das automatisierte Bewerten von Menschen anhand ihres Verhaltens, wie es beispielsweis ein China praktiziert wird. Auch biometrische Daten sind besonders geschützt. So verbietet die KI-Verordnung die Echtzeit-Fernüberwachung, dass Kameras große Menschenmengen im öffentlichen Raum automatisch erfassen, die Personen anhand ihrer Gesichter identifizieren und mit diesen Daten zeitgleich an anderer Stelle, zum Beispiel durch Strafverfolgungsbehörden, weitergearbeitet wird. Hier gibt es nur Ausnahmen für sehr wenige Fälle, die besonders schwere Straftaten betreffen. Verboten ist auch Emotionserkennung am Arbeitsplatz oder in Bildungseinrichtungen, dass eine KI erkennen würde, wenn du im Matheunterricht gelangweilt bist und deiner Lehrerin einen entsprechenden Hinweis zur Mitarbeitsnote geben könnte.
Während die Verordnung entwickelt wurde, kamen ChatGPT und andere sogenannte Large-Language-Modelle (LLM) erst auf den Markt, weshalb die Verordnung erst noch um diesen Bereich der General Purpose AI (GPAI) ergänzt wird.
Die KI-Verordnung wird in den kommenden zwei Jahren noch durch weitere Regelungen erweitert, spätestens bis zum 2. August 2026 soll dann alles, was bei der Entwicklung der Verordnung angedacht war, in Kraft getreten sein.