Digitale butler of digitale baas?

(Mijn Opinie Artikel in NRC, juli 2019)

Dat Google gesprekken af kan luisteren leidde tot een vreemd soort verontwaardiging, vindt Jarno Duursma.

Mensen vullen dagelijks tientallen zoekopdrachten in op Google, browsen in Chrome, surfen op YouTube en geven hun Google-apparaat dagelijks meerdere spraakcommando’s. Daarmee geven ze inzage in hun wensen, ideeën, gedrag, emoties en belangstellingen. Dat lijkt me helder. Maar plots staan dezelfde internetlievende mensen in vuur en vlam nu is gebleken dat Google-medewerkers soms meeluisteren naar privé-gesprekken via de woonkamer-assistent Google Home.

Dat kan ik niet rijmen. Natuurlijk snap ik dat dit een fout is van de onvolwassen software en het mag niet gebeuren, maar ik zou zeggen: wie écht gesteld is op zijn of haar privacy moet zo’n apparaat dus niet in huis halen.

Overigens zouden ook gebruikers die accepteren dat Google inzage heeft in hun browse-gedrag, in de basis argwanend moeten zijn en blijven tegenover deze digitale assistenten. Want natuurlijk zijn er gebruikers die het accepteren, er zijn ook veel voordelen van de digitale assistent. Ze snappen steeds beter wie we zijn, wat we doen en waarom. Uiteindelijk krijgen we een digitale butler, met software die ons helpt voordat we wisten dat we hulp nodig hadden. Maar ook de nadelen zijn helder.

Het meest voor de hand liggende nadeel van deze digitale butler is de vermindering van privacy en autonomie. Dit soort digitale systemen hebben immers enorm veel gegevens van ons nodig om ons te kunnen bedienen. Dat verzamelen ze niet door ons 24 uur per dag af te luisteren met een microfoon, maar door naar ons gebruik van Google, YouTube, Chrome, Maps, Gmail én de Google Assistent te kijken. Zo ontstaat een steeds fijnmaziger beeld over ons als individu en als collectief.

Manipulatie van keuzes

Het minder voor de hand liggende risico van deze spraakassistenten is dat ze je de behoefte ontnemen eigen wensen of ideeën uit te kristalliseren. Het is immers makkelijker mee te gaan met de suggesties van de digitale assistent dan steeds weer ‘keuzestress’ te ervaren. Door slimme algoritmische suggesties kan zo onze smaak – en die van onze kinderen – nog geraffineerder gemanipuleerd worden in de richting die commercieel het meest interessant is, in plaats van dat wij autonoom de keuze maken die bij ons past of voor ons als collectief het best is.

Feiten en antwoorden

Digitale voice-assistenten zijn de orakels van de toekomst. Ze proberen simpele antwoorden te geven, ook op heel complexe vragen. Handig wanneer je snel antwoord zoekt maar geen zin hebt om te googelen. Maar met de komst van digitale assistenten geven we de regie over onze feitelijke wereld beetje bij beetje weg aan bedrijven als Google en Amazon. Zij voorzien ons van korte, simplistische antwoorden.

Voor sommige feiten maakt dat niet uit: het Pieterpad blijft altijd 498 kilometer. Maar wat te denken van andere ‘feiten’? Is het eten van vlees gezond of niet? En stel dat Donald Trump zijn PR-bureau opdracht geeft enorm veel websites te creëren waarin hij als slachtoffer van het Mueller-rapport wordt neergezet. Hoe lang duurt het voordat de Google Assistant deze informatie overneemt en presenteert als ‘de waarheid’ in een ‘one shot answer’?

Nadenken

Digitale intelligentie dringt steeds meer binnen in onze leefomgeving, met alle voordelen van dien. Tegelijkertijd moeten we ons afvragen hoe de modellen van de bedrijven die erachter zitten werken. Wat is hun drijfveer? Wat willen we zelf? Wat vinden we wenselijk en menselijk? Wat zijn we bereid op te geven en krijgen we dat ooit nog terug?

We moeten ons afvragen of wij de baas zijn over deze assistenten, of dat de grote technologiebedrijven de baas zijn over ons, door de grenzen op te zoeken van onze privacy, autonomie en onze collectieve waarheid. Het is noodzakelijk om zoveel mogelijk licht te laten schijnen op de overduidelijke én de onzichtbare gevolgen van de digitale butler. Ik heb mijn Google Home en Amazon Alexa in ieder geval voorlopig even teruggestopt in de doos.

Dit artikel verscheen eerder in NRC op 11 juli 2019

Boek Jarno als spreker

Mijn klanten