peter-hershock-intelligente-technologie

“Met intelligente technologieën beïnvloeden bedrijven ons online gedrag”

Hoe behouden we onze menselijkheid bij het ontwerpen en gebruiken van digitale tools? En wat heeft het boeddhisme hierin te bieden? Over deze vragen gaat het nieuwste boek van Peter Hershock: 'Buddhism and Intelligent Technology. Toward a more humane future'. Bodhi organiseerde een webinar met Hershock over dit onderwerp, onder leiding van Remco Pijpers, van Stichting Kennisnet, tevens verbonden aan Zencentrum Amsterdam. We zetten de belangrijkste inzichten op een rij.

Google maps, Whatsapp, Zoom, Buienradar en de Fitbit. Zomaar een greep uit de digitale tools die we dagelijks gebruiken. Ze maken ons leven makkelijker en geven ons het gevoel dat we vrij zijn. Maar is dat ook zo? De ontwikkelingen gaan snel en ongemerkt wordt er steeds meer geld verdiend aan het vasthouden van onze aandacht en het opslaan van onze persoonlijke gegevens. Dat heeft gevolgen voor hoe we als mensen met elkaar omgaan, privé, maar ook op maatschappelijk niveau.

peter hershock intelligent technologyIn zijn boek waarschuwt Hershock dan ook voor een toekomst waarin machines ons ervan weerhouden onze eigen fouten te maken en ervan te leren. Vooral in het boeddhisme vindt Hershock, die al zo’n veertig jaar het boeddhistisch pad bewandelt, de instrumenten om onze aandacht op waarde te schatten, te trainen en zo de ‘kolonisatie’ te weerstaan. Wat kunnen wij, als digitale consumenten leren van zijn inzichten? Hieronder een greep uit de vragen en antwoorden die langskwamen in het webinar.

Kunstmatige intelligentie, robotisering, machine learning.

Het zijn allemaal termen die min of meer verwijzen naar het fenomeen waarbij menselijke taken worden overgenomen door een robot. We bevinden ons volgens Hershock middenin een revolutie: van het informatie-tijdperk naar het tijdperk van de intelligente technologie. Wat houdt dit in?

“De makkelijkste manier om dat uit te leggen is aan de hand van de economie”, begint Hershock. “Het informatie-tijdperk is een overkoepelende term voor het ontstaan van de massacommunicatie, zoals de opkomst van krant, radio en tv. Dit soort communicatiekanalen maakten het mogelijk voor adverteerders om ineens grote groepen mensen bereiken met een (reclame)boodschap. Het vangen van de aandacht van mensen werd daarmee een potentiële bron van inkomsten.”

Het grote nadeel? Je kunt een boodschap niet afstemmen op de specifieke eigenschappen en voorkeuren van het individu. En dat is precies wat nieuwe (intelligente) technologieën wel kunnen. “Ze maken het mogelijk om ons met grote precisie als individu te identificeren op basis van ons online gedrag. Denk aan: zoeken via google, social media, online winkelen, appen en allerlei vormen van entertainment en games.”

Met intelligente technologieën kunnen bedrijven ons online gedrag vervolgens leren voorspellen. Die kennis zetten bedrijven in om consumenten via sterk gepersonaliseerde content te verleiden tot het doen van bijvoorbeeld aankopen.

Waarom is dit een probleem?

Ongemerkt zorgt ons online gedrag ervoor dat bedrijven ons beter leren kennen, waardoor we makkelijker te beïnvloeden zijn. Dat is iets waar we ons als consumenten meer bewust van zouden moeten zijn, meent Hershock. “Onze aandacht wordt zonder dat het doorhebben constant gekaapt door digitale technologieën. Niet door middel van dwang, maar doordat ze listig inspelen op onze verlangens.” We denken dat we zelf aan het roer staan als het gaat om waar we onze aandacht op richten, maar niets is minder waar.

“Facebook en andere platforms hebben uitgebreid onderzocht hoe ze de aandacht van mensen kunnen trekken en vasthouden. Dingen als like-knopjes en gepersonaliseerde content in je newsfeed zijn daarin zeer effectief. De gemiddelde Amerikaans raakt zijn of haar smartphone honderden keren per dag aan. Dit is een voorbeeld van digitale verslaving die veelvuldig voorkomt.”

Zonder die vrijheid van aandacht kan er volgens Hershock geen vrijheid van intentie zijn. “En zonder vrijheid van intentie zijn we niet in staat om te evalueren hoe de technologie onze relaties beïnvloedt. We kunnen dan niet meer creatief zijn in het verbeteren van de kwaliteit van die relaties.” De beste manier om je daartegen te beschermen is volgens Hershock om jouw vrijheid van aandacht als een universeel mensenrecht te beschouwen. Dat vraagt, zoals bij elk mensenrecht, samenwerking en collectieve inspanning.”

Games worden zo ontwikkeld dat je er al bij de eerste keer spelen verslaafd aan raakt

Tweet

Hoe ziet die beïnvloeding er in de praktijk uit?

“Een goed voorbeeld is wat we zagen tijdens de verkiezingen in de VS in 2016”, vertelt Hershock. Het bedrijf Cambridge Analytica verzamelde ongevraagd enorme hoeveelheden data van Facebookgebruikers. Op basis daarvan stelden ze politiek geladen berichten samen die met grote precisie werden ‘getarget’ aan individuen. Zo werden miljoenen mensen ongemerkt beïnvloed in aanloop naar de verkiezingen.”

Hershock geeft ook een voorbeeld dichter bij huis: “Ontwikkelaars van games doen veel onderzoek en testen de games op kinderen. Ze gebruiken de reacties van de proefpersonen op het spel en gebruiken dat om de game verder te verfijnen met als doel om het zo verslavend mogelijk te maken. Een kind kan dus wel zeggen dat het vrij is om te kiezen of het een game wil spelen, maar is dat ook zo als je er vrijwel direct verslaafd aan raakt?”

Wat hebben de oosterse tradities, zoals het boeddhisme, ons te bieden ten opzichte van de westerse ethiek?

“Veel van ons westerse denken over technologie is gebaseerd op een ‘bias’ of vertekening, namelijk het idee dat het individuele (een mens, een bedrijf een staat) het uitgangspunt moet zijn van een ethische analyse”, vertelt Hershock. “Oosterse tradities, zoals het boeddhisme, confucianisme, taoïsme en shinto, maar ook vele inheemse tradities, bijvoorbeeld het Afrikaanse Ubuntu, zien het omgekeerd: zij kennen het grootste belang toe aan het collectief en het relationele.”

Volgens Hershock is het cruciaal dat we meer aandacht hebben voor dat relationele aspect. “We zouden vooral moeten kijken naar de impact van kunstmatige intelligentie (AI) en big data op de structuur van de samenleving, maar ook op wat het doet met onze aandacht en wat daarvan het effect is op onze relaties, onze plek en ons functioneren in het geheel.”

Wat leert het boeddhisme ons hier precies in?

Dat gaat volgens Hershock vooral over karma, het bewustzijn van je intenties en je gedrag daar vervolgens gerichter op afstemmen. “Veel van ons lijden binnen relaties komt voort uit conflicterende waarden. Teachings over karma gaan dus vooral over de vraag hoe je omgaat met die conflicten. We kunnen ons gedrag aanpassen, maar ook reflecteren op onze normen en waarden en van daaruit anders handelen.”

Een simpel voorbeeld is de irritatie die kan ontstaan wanneer je als gezin samen zit te eten en een of meerdere mensen voortdurend op hun telefoon zitten. Dan kun je zeggen: doe dat gewoon niet, maar je kunt ook dieper kijken naar wat er onder ligt: ‘wat vinden wij als gezin eigenlijk belangrijk aan het samen eten?’ Stel dat dit is: ‘dan voelen we ons verbonden’, volgt daaruit automatisch dat de telefoon daarin een storende factor is. “Dit is een voorbeeld in het klein. De boeddhistische beoefening richt zich sterk op je persoonlijke ervaring, maar we kunnen dit ook vertalen naar de maatschappij in het groot”, zegt Hershock.

Zou de overheid ook niet meer moeten reguleren, als het gaat om het beschermen van democratische processen?

“Dat is een goede vraag. Maar de realiteit is dat de overheden dol zijn op de dataficatie het verzamelen en analyseren van big data over uiteenlopende personen en zaken van de samenleving. Het maakt het mogelijk om meer te weten over hoe mensen denken, wat ze verlangen en doen en het geeft dus macht om dat te beïnvloeden. Sommige overheden zijn daarin redelijk transparant. In China bijvoorbeeld rechtvaardigt men die dataficatie met de term  ‘ideologische hygiëne’. Maar zelfs in meer progressieve democratieën, zoals de VS, is er een enorme lobby voor ‘de slimme overheid’, ten gunste van dienstverlening en efficiency. Ik acht het waarschijnlijk dat het lot van democratieën die zijn gebaseerd op vrije en eerlijke verkiezingen afhangt van burgers en activisten. Niemand bij de overheid zal de intelligente technologie ‘voor ons’ in bedwang houden. Dat harde werk zullen we zelf moeten doen.”

Wat kun je als ouder concreet doen om je kinderen te beschermen tegen beïnvloeding door technologie?

Wat Peter Hershock betreft heeft het geen zin om kinderen weg te houden van dingen als social media en games. Beter is om je kinderen vooral andere bezigheden te blijven aanbieden, buiten de digitale wereld. “Koken, sporten of een muziekinstrument leren spelen bijvoorbeeld. Dat zijn allemaal dingen die een veel langere leercurve vragen, maar die na een tijd veel voldoening geven omdat er iets tastbaars uit voortkomt. Ze ervaren dan dat er ook een andere, meer voedzame of heilzame vorm van bevrediging bestaat, die ze niet ervaren in die digitale buzz. Het is aan jou als ouder om je kinderen daartoe te verleiden.”

Headerbeeld: Aideal Hwa


Peter Hershock werkt voor het East West centre in Hawaï. Hier leidt hij het programma Asian Studies Development Program (ASDP)

Remco Pijpers werkt voor Stichting Kennisnet als adviseur digitale geletterheid. Daarnaast is hij verbonden aan Zencentrum Amsterdam.

Bekijk het webinar: