Sorry, kon het niet laten. Het bericht op nu.nl had als subkop “Emotieherkenning niet altijd betrouwbaar“. In de titel van het bericht ging het over “AI-systemen die blijdschap en stress meten zijn volgens toezichthouder ‘dubieus'”, ook al zo’n vage classificering.
Ik wilde het gewoon scherp stellen: als de fundamentele aannames onder het herkennen van emoties met behulp van kunstmatige intelligentie “wankelen” (onvolledig of onjuist zijn), dan is het gebruik van emotieherkenning met behulp van AI onbetrouwbaar: je kunt er onvoldoende op vertrouwen dat de resultaten juist zijn.
Als de Autoriteit Persoonsgegevens (AP, die het rapport hebben opgesteld waar het nieuwsbericht op gebaseerd is) dan ook nog constateren dat er een gebrek aan transparantie is bij het inzetten ervan, en de gevolgen van onjuiste herkenning van emoties te groot zijn, dan is het duidelijk dat het verbod van het gebruik ervan in het onderwijs op de werkvloer (sinds februari 2025) zeker niet overbodig is, maar dat het verbod nog niet ver genoeg gaat.
Ik zocht in het rapport van de AP meteen naar vermelding van het Kuleshov-effect. Dit is een begrip uit de filmkunst en psychologie waarbij de emotionele interpretatie van een neutraal gezicht sterk wordt beïnvloed door de context (de beelden die aan het gezicht voorafgaan of volgen). In de oorspronkelijke demonstratie (jaren 1920) monteerde de Sovjetregisseur Lev Kuleshov een korte film waarin een uitdrukkingsloos gezicht van een acteur werd afgewisseld met verschillende scènes (bijvoorbeeld een kom soep, een lijk in een kist, een spelend meisje). Het publiek merkte daarbij ten onrechte emoties in het gezicht op (honger bij de soep, verdriet bij het lijk en verlangen bij het meisje) ondanks dat het gezicht telkens exact hetzelfde was. Kuleshov gebruikte dit om te illustreren dat montagetechnieken en context emoties in het gezicht “injecteren”. Ik had voor het eerst over het effect gehoord in een filmpje van Hannah Fry.
Het effect komt niet in het rapport voor. Nou weet ik dat er wetenschappelijk links en rechts wel wat kritiek was op het experiment. Het bronmateriaal is er niet meer, replicatiestudies vonden soms wel, soms geen effect. Een recente studie (met behulp van een MRI) vond wél een effect en algemeen wordt er vanuit gegaan dat context relevant is. En ondanks dat ze Kuleshov niet noemen, gaat ook de AP uit van de situationele en culturele context van emoties. Ze bekritiseren in het rapport de omstreden emotietheorieën die bv uitgaan van zaken als “één gezichtsuitdrukking = één emotie”. Die zijn te simplistisch en houden geen rekening met context of nuance. Ook het aanvullen van afbeeldingen met fysiologische signalen zoals hartslag, pupilgrootte of stemintonatie, is niet onomstreden omdat ook die niet exclusief gelinkt zijn aan één emotie en ook hier is context (bv. stress door drukte versus stress door angst) van belang is. En slechts een paar systemen/modellen voor emotieherkenning maken gebruik van context. Wat dat betreft is het natuurlijk ook gewoon goed dat de AP er bovenop zit. Zij constateren namelijk dat concrete cases waarin nu emotieherkenning toegepast wordt laten zien dat het, afhankelijk van de setting, totaal anders uitpakt. Dus niet alleen iets wat onderzoekers zeggen, maar gewoon iets wat uit de praktijk blijkt. Maar ja, dan is het aan de politiek om te bepalen wat toegestaan is. In een tijd dat “men” van mening is dat Europa te strak is qua regels rond AI, zal niet iedereen staan te springen om dit aspect verder aan banden te leggen. Maar als het niet betrouwbaar is, dan kun je wat mij betreft niet anders.
Voor ons in het onderwijs blijft er in de tussentijd niet veel meer over dan het er voor zorgen dat iedereen zo AI-geletterd mogelijk is. Zodat ze ook buiten school en werk weten waar ze op moeten letten.