Emotionserkennung in der Schule
Art. 5 Abs. 1 lit. f verbietet das Inverkehrbringen oder die Nutzung von KI-Systemen zur Ableitung von Emotionen natürlicher Personen am Arbeitsplatz und in Bildungseinrichtungen. Gemeint sind Systeme, die aus Gesicht, Stimme oder Körpersprache auf emotionale Zustände wie Freude, Angst oder Aufmerksamkeit schließen.
Ausnahme: zugelassen sind medizinische oder sicherheitsrelevante Zwecke (z. B. Müdigkeitserkennung in Fahrsimulatoren in der Berufsbildung).
Schul-Praxis: Lernanalytik, die "Engagement" aus Webcam-Bildern ableitet, ist untersagt – unabhängig davon, ob sie als EdTech-Feature oder als Forschung auftritt.