De heftige emoties van artificiële intelligentie
Kan artificiële intelligentie onze emoties ‘lezen’? Er zijn in ieder geval heel wat bedrijven die AI aanbieden die pretendeert te kunnen inschatten, op basis van videobeelden, wat een sollicitant écht denkt over een job en of een shopper van plan is om een winkeldiefstal te plegen.
Met die software zijn twee belangrijke problemen. Ten eerste: we vinden hem griezelig, zoals we het altijd griezelig vinden wanneer AI op ‘ons’ terrein komt. En ten tweede: hij werkt niet. Dat is afdoende aangetoond. Een computer is in staat om een glimlach te onderscheiden van een frons, maar je gelaatsuitdrukking en je lichaamstaal geven soms wel en soms niet je emoties weer. Mensen kunnen dat verschil soms maken, maar ze gebruiken daarvoor meer informatie dan alleen visuele. Emotieherkenning is, kort gezegd, de 21ste-eeuwse handschriftkunde of zelfs frenologie (waarbij men persoonlijkheidskenmerken trachtte af te leiden uit de vorm van de schedel).
Emotieherkenning is de 21ste-eeuwse handschriftkunde of zelfs frenologie
Wat een rare aankondiging is dat dus van Microsoft. Het softwarebedrijf maakt fier bekend dat het zal inzetten op ethische, betrouwbare artificiële intelligentie. In dat kader haalt het zijn software voor emotieherkenning van de markt, onder meer omdat die technologie niet betrouwbaar werkt. Ik herhaal: Microsoft haalt een product van de markt dat niet werkt, en verwacht daar een schouderklopje voor. Tof ook dat Google dit spontaan doet, nog voor iemand de techreus aanklaagt omdat hij een job of een lening is misgelopen of zelfs onterecht is gearresteerd op basis van emotieherkenning.
Want, nog eens voor alle duidelijkheid: een AI-systeem kan geen emoties herkennen. AI weet niet wat emoties zijn. Het heeft er alvast zelf geen – ondanks dat gedoe over Lamda, de AI van Google die, volgens één medewerker, zelfbewust is geworden. AI kan getraind worden door het miljoenen foto’s of video’s te tonen van zichtbaar boze mensen, maar verwerft daardoor geen superkracht om boosheid te detecteren bij mensen die minzaam glimlachen.
Microsoft krijgt wel goede punten voor het inschatten (zonder AI, wellicht) van de emoties bij het grote publiek. We zijn, heel geleidelijk, aan het wennen aan de aanwezigheid van AI in ons dagelijkse leven. Maar die emoties, dat wringt, net als alles dat te maken heeft met ons gezicht, zeker gezichtsherkenning. Microsoft beperkte ook de toegang tot een andere ‘griezelige’ technologie: die om deepfake stemmen te maken – dus om een computer teksten uit te laten spreken met pakweg jouw stem. Die technologie zul je voortaan maar mogen gebruiken als Microsoft er (vrij) zeker van is dat je ze niet zult gebruiken om, bijvoorbeeld, bedrijven op te lichten door de stem van de ceo te imiteren.
Amazon, daarentegen, heeft de emoties in de zaal totaal verkeerd gelezen. Net deze week demonstreerde het fier hoe je weldra de sprekende assistent Alexa zal kunnen laten praten met de stem van je overleden grootmoeder. En Meta kondigde aan dat Instagram AI zal inschakelen om je leeftijd te controleren op basis van videobeelden.
Dus, toegegeven: Microsoft is zijn concurrenten een lengte voor. Het heeft ingezien dat het rekening moet houden met de weerstand die sommige vormen van AI oproepen. En met de strenge Europese AI Act die er, mede om die reden, aankomt. Dat is goed bekeken.