Artikel 4: AI Literacy
Seit Februar 2025 verpflichtet der EU AI Act Anbieter und Betreiber von KI-Systemen dazu, ein ausreichendes Maß an AI Literacy bei Personen sicherzustellen, die mit KI-Systemen umgehen. Für Schulen in der EU ist das unmittelbar relevant; Schweizer Schulen sind nicht direkt gebunden, können Artikel 4 aber als europäischen Mindeststandard für Governance und Weiterbildung nutzen.
Schul-Praxis: AI Literacy ist nicht nur eine Kompetenz der Lernenden. Auch Lehrpersonen, Schulleitung, IT und Verwaltung brauchen rollenbezogene Grundkompetenzen: Was darf ein Tool? Welche Daten fließen? Wo braucht es menschliche Kontrolle? Welche Aufgaben dürfen nicht an KI delegiert werden?
Artikel 4 im AI Act Service Desk öffnen
Emotionserkennung in der Schule
Art. 5 Abs. 1 lit. f verbietet das Inverkehrbringen oder die Nutzung von KI-Systemen zur Ableitung von Emotionen natürlicher Personen am Arbeitsplatz und in Bildungseinrichtungen. Gemeint sind Systeme, die aus Gesicht, Stimme oder Körpersprache auf emotionale Zustände wie Freude, Angst oder Aufmerksamkeit schließen.
Ausnahme: zugelassen sind medizinische oder sicherheitsrelevante Zwecke (z. B. Müdigkeitserkennung in Fahrsimulatoren in der Berufsbildung).
Schul-Praxis: Lernanalytik, die "Engagement" aus Webcam-Bildern ableitet, ist untersagt – unabhängig davon, ob sie als EdTech-Feature oder als Forschung auftritt.