De wisselwerking tussen het kunstmatige en het menselijke brein

Een digitaal product wordt vaak ontworpen met de wens het bestaande gedrag te veranderen. Denk aan een simpel voorbeeld: werknemers binnen bedrijf y verwerken nog veel informatie op papier. Dit brengt zo z’n eigen nadelen met zich mee. Belangrijke documenten raken kwijt, handschriften zijn niet leesbaar, informatie wordt verkeerd of niet ingevuld. Door dit proces te digitaliseren kun je deze nadelen wegnemen. Doordat iedereen informatie invult met het toetsenbord worden de onduidelijkheden van het handschrift weggenomen. En om ervoor te zorgen dat bepaalde informatie nu wél wordt ingevuld kun je ervoor kiezen om desbetreffende invulvelden te verplichten. Dit maakt dat de introductie van het digitale product gepaard gaat met gedragsverandering. De werknemers van bedrijf y zullen zich immers moeten aanpassen aan deze nieuwe manier van werken. Maar hoe werkt gedragsverandering? En welke rol spelen algoritmen en artificial intelligence hierin?

De psychologie achter gedragsverandering

Om gedragsverandering te kunnen begrijpen moet je eerst weten hoe het menselijk brein werkt. Waarom gedragen mensen zich op een bepaalde manier? Waarom maken mensen bepaalde keuzes? En wat maakt dat ze daar van afwijken? Dit heeft o.a. te maken met een aantal truucjes van je brein. In dit artikel gaan we het hebben over heuristiek en cognitieve bias.

 

Heuristiek

95% van onze beslissingen en handelingen gebeurt onbewust. Een voorbeeld hiervan is het drinken uit een glas. Zonder na te denken pak je het glas en neem je een slok. Maar zo’n simpele handeling bestaat eigenlijk uit veel kleine handelingen. Als je alle stappen benoemt ziet dat er ongeveer zo uit:

  • Hand uitreiken richting het glas
  • Vingers buigen om het glas heen
  • Glas vastpakken
  • Glas optillen
  • Glas richting je mond bewegen
  • Je lippen tegen het glas zetten
  • Je glas kantelen
  • Een slok nemen
  • Je hand weer van je mond af bewegen
  • Glas neerzetten op oppervlak
  • Vingers loshalen
  • Arm terug trekken

Stel je voor dat je bij alles wat je dagelijks doet over iedere stap moest nadenken. Dan raken je hersenen oververhit. Daarom hebben je hersenen zichzelf shortcuts aangeleerd. Dit zijn korte wegen die je hersenen nemen om handelingen te verrichtingen en beslissingen te nemen zonder er al te lang bij hoeven na te denken. Een soort automatische piloot van het brein dus.

 

Cognitieve bias

Een ander truucje van je hersenen is de cognitieve bias. Dit is een direct gevolg van de heuristiek. What you see is all there is: je maakt een keuze op basis van de informatie die je hebt. En je herinneringen en eerdere ervaringen bepalen in hoe verre jij deze informatie vertrouwt. Je creeërt als het ware je eigen realiteit, je eigen waarheid. Heb je net een artikel gelezen over een vliegtuigcrash en ga je zo vliegen? Dan zul je banger zijn voor de vlucht dan wanneer je het artikel niet gelezen had. Een goed praktijkvoorbeeld wat inspeelt op deze cognitieve bias is het algoritme van Netflix.

De invloeden van algoritmen en AI

Netflix

Kans is dat je weet hoe het beginscherm van Netflix eruit ziet. Zodra je de app opstart zie je een aanbod aan films en series op je beeldscherm verschijnen. Dit is hét scherm waarop het allemaal gebeurt. Aan de hand van een simpele thumbnail bepaal jij binnen enkele seconden of een bepaalde serie of film de moeite waard is. Daar denk je nauwelijks over na. Je scrollt door de afbeeldingen heen tot je iets ziet wat je aanspreekt. En dat is precies waar de magie zit. De thumbnails die je ziet zijn zo simpel nog niet. Er zit een algoritme achter die bepaalt welke thumbnails jij te zien krijgt. Een algoritme die in speelt op je cognitieve bias.

 

Netflix wil jou zo lang mogelijk op het platform houden en dat lukt ze zolang jij series en films blijft kijken. Daarom is het belangrijk om de thumbnails zo aantrekkelijk mogelijk aan jou te presenteren. Eén beeld zegt immers meer dan duizend woorden. De weg naar het perfecte plaatje is om het platform zoveel mogelijk te personaliseren naar jou voorkeuren. Het algoritme analyseert en herkent jouw kijkgedrag. Kijk jij vaak naar films met jouw favoriete acteur in de hoofdrol? Dan kun je verwachten dat de thumbnail van de eerstvolgende aanbevolen film een beeld bevat van jouw favoriete acteur. Jouw herinneringen aan die acteur maken dat jij onbewust gelooft dat ook deze film een topfilm zal zijn, waardoor jij sneller geneigd bent deze film te gaan kijken.

 

Amazon

Artificial intelligence (AI) kan menselijk gedrag dus beïnvloeden. Maar dit is geen eenrichtingsverkeer. Het denken en doen van de mens is namelijk precies datgene wat de AI vormt. Een AI is namelijk afhankelijk van input: data die je de AI voedt welke door de AI wordt geïnterpreteerd als waarheid. Als je een AI leert dat alleen petten hoofddeksels zijn, dan zal het hoeden nooit als hoofddeksels (h)erkennen. Amazon heeft hier in 2015 mee te maken gehad tijdens het testen van hun AI recruiting tool.

 

Amazon ontwikkelde een AI om hun recruitmentproces (deels) te automatiseren. Het idee hierachter was om de AI een set aan cv’s van mogelijke kandidaten te laten bekijken, beoordelen en vervolgens de top 5 kandidaten te selecteren. Hiervoor voedde Amazon de AI met de cv’s van de aangenomen kandidaten uit de afgelopen tien jaar voor functie x. Net als vele techbedrijven heeft Amazon te maken met een zogeheten gender gap. Er werken veel meer mannen dan vrouwen in het bedrijf. De set aan cv’s die als input dienden voor de AI waren voornamelijk van mannelijke kandidaten. In 2015 kwam Amazon erachter dat de AI niet genderneutraal was in zijn beoordelingen. De AI had een bias tegen vrouwen. Gevolg hiervan was dat alle cv’s met daarin het woord women met strafpunten werden beoordeeld en minder in de top 5 terecht kwamen.

Conclusie

Artificial intelligence wordt grootschalig ingezet om menselijk gedrag te beïnvloeden en kent vele succesverhalen m.b.t. het automatiseren van bedrijfsprocessen. Het is een krachtig middel om een brug te slaan tussen het huidige denken en doen van de mens en het gewenste scenario. Maar de inzet van AI is niet zonder risico’s. With great power comes great responsibility.

Bronnen

Kahneman, D. (2012). Thinking, Fast and Slow. Verenigd Koningrijk: Penguin Books Ltd.

Netflix Technology Blog (2017). Artwork Personalization at Netflix. https://netflixtechblog.com/artwork-personalization-c589f074ad76

Dastin, J. (2018). Amazon scraps secret AI recruiting tool that showed bias against women. https://www.reuters.com/article/us-amazon-com-jobs-automation-insight-idUSKCN1MK08G