cancel

Verliefd op 'Amy', de virtuele assistent

door Rens Lieman

fotografie Persbeeld

gepubliceerd in Esquire, oktober 2016


Wat gebeurt er als computerprogramma’s net zo goed Nederlands spreken als wij? Dan gaan we er mee flirten, blijkt. ↓


Ergens na de ponskaart, na het toetsenbord en na het grafisch besturingsprogramma heeft de computer een zeker gevoel voor communicatie gekregen, een zekere gevatheid, zelfs. Als de internetverbinding wegvalt, laat Google Chrome een plaatje van een dinosaurus zien. Als mijn tweet te lang is, zegt Twitter dat ik wat “slimmer” zal moeten schrijven.

Ging het eerst alleen nog maar om het begrijpelijk maken van foutmeldingen, of om het leed daarvan wat te verzachten, inmiddels spreken apps ons in elk scenario scherpzinnig en activerend toe. Internetdiensten Slack en MailChimp liepen voor de troepen uit door hier tekstschrijvers voor in te huren. Met de opkomst van chatbots is tekst (en gifjes en emoji) zelfs de enige overgebleven gebruikersinterface. Daarom leren computers niet alleen onze taal te spreken, ze leren ook ons in die taal te begrijpen.

Fantastisch. De mens is vertrouwd met taal, hij gebruikt het al vijfendertigduizend jaar. Geen commando of muisbeweging die daar tegenop kan. Maar door met computers te praten alsof het mensen zijn, vervaagt de grens tussen mens en machine. Wie de film Her heeft gezien, met Scarlett Johansson in de rol van begeerlijk besturingsysteem, weet dat dat serieuze gevolgen kan hebben.

‘Amy’ is de chatbot van New Yorkse startup X.ai. ‘Ze’ is een virtuele assistent met kunstmatige intelligentie die per e-mail je afspraken inplant. CC haar in een mailconversatie waarin iemand om een afspraak vraagt, en Amy neemt het gesprek van je over om een datum, plek en tijd te prikken die jullie beiden uitkomt — ze kent je agenda en voorkeuren.

Amy spreekt en verstaat Engels. Daar is ze lang voor getraind door mensen die bij X.ai ‘haar trainers’ worden genoemd. Amy leert bovendien van al haar interacties met gebruikers, machine learning in jargon.

Praten met mensen is niet makkelijk voor computers met een kunstmatig brein, mensen zijn notoir slecht in precies zeggen wat ze bedoelen. Toch spreekt Amy inmiddels zo goed Engels, dat niet iedereen waarmee ze mailt door heeft dat ze geen echte vrouw is (ook al wordt dat wel vermeld in haar e-mailhandtekening).

Zo heeft Amy al eens chocolade en whisky opgestuurd gekregen, is ze gevraagd aan te schuiven bij vergaderingen en wordt er met haar geflirt: tenminste één man heeft Amy per mail uitgenodigd voor een kerstborrel. (We hebben de correspondentie gezien. Amy wees haar aanbidder netjes af: ‘Bedankt voor je vriendelijke uitnodiging. Omdat ik een virtuele assistent bent, kan ik helaas niet lijfelijk aanwezig zijn.’)

Interessanter nog dan die paar heren bij wie het hart blijkbaar al op hol slaat bij het lezen van een vrouwennaam in de inbox: ook zij die wél doorhebben dat Amy een chatbot is, praten met haar alsof ze een personal assistant van vlees en bloed is. 11% van de gebruikers stuurt Amy bijvoorbeeld een bedank-mailtje als ze een afspraak ingeboekt heeft. Een greep uit gebruikersrecensies van de app: ‘Amy gets me’; ‘Amy is my new BFF’; ‘I love you Amy!’


We spreken Amy’s vader, de Deense oprichter en directeur van X.ai, Dennis Mortensen. Hij legt uit dat hij niet alleen datawetenschappers en programmeurs aan Amy liet werken, maar ook een toneelstudent.

‘We wilden geen programma maken dat zich altijd volgens een bepaald script voltrekt. Kijk naar wat er op Broadway gebeurt: elke toneelregisseur wil dat het publiek meeleeft met de personages, overweldigd door hen wordt. Met een script alleen red je dat niet, acteurs moeten emotie acteren, een karakter neerzetten. Zo ook met Amy. Ze moest een entiteit worden.’

Dennis Mortensen, de vader van Amy. Foto x.ai

De redenatie daarachter, zegt Mortensen: ‘Het menselijke van Amy maakt dat gebruikers er al snel vertrouwen in hebben dat Amy op een fatsoenlijke manier de e-mails afhandelt en agenda beheert.’

Een tweede reden: een recent Amerikaans onderzoek wees uit dat wanneer er iets fout gaat, mensen sneller geneigd zijn een persoon te vergeven (of in deze context: een computer met menselijke trekjes) dan een computer.

De derde, zo legt Mortnsen ons uit, is dat we allemaal weten hoe frustrerend het is als iemand een afspraak steeds verschuift. Het is Amy die in dit geval die afspraak moet verschuiven. Als ze dan ook nog eens klinkt als een starre robot, dan zal de persoon aan de andere kant van de lijn koken van woede. ‘Om dat te voorkomen, toont Amy in zo’n situatie empathie en zorgt ze er met subtiele verschillen in haar toon en taalgebruik voor dat je niet te gefrustreerd raakt.’


Dat we een computerprogramma een beetje als mens zien, is niets nieuws. Mensen schrijven gemakkelijk menselijke eigenschappen toe aan niet-menselijke wezens, zoals je auto (“Ik heb haar zondag nog een grote beurt gegeven, gheghe”), je hond, je god of je chatbot. Dat wordt antropomorfisme genoemd. 

Hoe dat onze omgang met computers verandert, houdt de wetenschap al lang bezig. In 1994 en 1995 deden Nass, Steuer en Tauber een aantal empirische onderzoeken waaruit bleek dat mensen in gesprek met computers, net aosl in interpersoonlijk contact, gebruik maakten van beleefdheidsvormen, stereotypen en complimentstructuren

Sindsdien is het gesprek tussen mens en computer alleen maar realistischer geworden. Mortensen: ‘Vroeger hielp de computer je met een taak. Nu voert het de taak volledig uit. Daarbij is het essentieel dat de applicatie die taak, en de motieven erachter, goed begrijpt. Daarom leerden wij Amy Engels, mensen kunnen dat in hun eigen taal beter aangeven. Ze laten dan minder details weg dan wanneer ze zich in een bepaalde syntax moeten uitdrukken.’


Dat klinkt bemoedigend. Maar toch: dat ouderwetse computertaal nu met uitsterven wordt bedreigd, is jammer.  

Ik denk aan de ‘kernel panic’-error op mijn Mac — als zelfs mijn computer in ‘paniek’ is over wat er zojuist gebeurde, hoe moet ik mij dan wel niet voelen? Of het blauw gekleurde foutmeldingscherm van Windows, in de volksmond de ‘Blue Screen of Death’ genoemd, met robotwartaal erop — een ontstane situatie die zo ernstig en onomkeerbaar is, dat het blijkbaar grafisch noch tekstueel verbloemd kan worden.

Het had wel iets… spannends. Het computerleed anno 2016: een stroef gesprek met een chatbot met gevoelens. ‘Het is niet wat je zei, maar de manier waarop je het zei.’

Rens Lieman schrijft als freelance journalist voor Nederlandse kranten en tijdschriften zoals NRC, Esquire, Vrij Nederland en Het Parool. Inhoudelijke specialisatie: Uber en de platformeconomie, de invloed van algoritmes en technologie op de werkvloer.

rens@renslieman.nl / @renslieman

Vond je dit een goed artikel? Je hebt het gratis kunnen lezen, maar als je wilt, kun je er heel gemakkelijk iets voor betalen. Zo steun je mijn werk als freelance journalist en kan ik vaker artikelen op deze plek gratis aanbieden 👊.