Alexa, set a timer for 10 minutes’ ‘Alexa, what’s the weather in Amsterdam?’ ‘Alexa, call Ronald.’ ‘Alexa, order me a pizza.’ ‘Alexa, what’s the latest news?’ ‘Alexa, what is the meaning of the word “disenfranchisement”?’
Welke data verzamelt Amazons Alexa en wat gebeurt hiermee? Sinds een paar jaar is de digitale assistent Alexa op de markt. De slimme spraakassistent die je helpt bij steeds meer praktische zaken in het dagelijks leven. Niks geen beeldscherm en toetsenbord, maar vragen stellen en commando’s geven. Maar mijn gevoelens ten opzichte van deze assistent blijven ambivalent. Het is makkelijk: je houdt je handen vrij en steeds meer routinematige beslissingen vinden gedachteloos plaats. Zonder wrijving. Die kleine handelingen van gemak. Dat neemt veel ‘praktische jeuk’ weg in je dagelijkse routine.
Zonder wrijving?
Is jeuk juist niet iets wat ons verder helpt? Ontwikkelen wij ons juist niet vanuit de momenten dat iets al heel lang jeukt? In onze baan, in onze relaties en onze ontwikkeling in het algemeen? En zijn wij als samenleving er juist niet bij gebaat dat we met z’n allen dagelijkse frustraties kunnen verdragen?
Ik ben soms bang dat het extreem frictieloze gebruiksgemak ervoor zorgt dat we niet kritisch meer kijken naar ons eigen gedrag en dan vooral onze eigen consumptie. We hoeven immers letterlijk niet meer na te denken. Niet meer reflecteren op onze verlangens en wensen die we bevredigen met consumeren. Want: frictieloosheid voorkomt ongemak – maar ligt in dat ongemak juist niet onze kickstart tot menselijke reflectie?
Data Amazons Alexa
En naarmate de tijd vordert word ik mij eigenlijk steeds meer bewust van de schaduwzijde. Bijvoorbeeld over de grote hoeveelheden data die slimme apparaten als Alexa verzamelen. Welke data verzamelt Amazons Alexa? En wat doet Amazons Alexa met mijn data? Mijn zorg zit niet alleen in het mogelijke ‘meeluisteren’, maar ook in de informatie die het bedrijf verzamelt over wat ik wil, wanneer ik dat wil en hoe vaak ik dat wil. En niet te vergeten: de andere (met Alexa gekoppelde) producten die data genereren en op deze wijze iets vertellen over mijn dagelijkse leven.
Want steeds meer fysieke apparaten krijgen namelijk Alexa-achtige software, omdat Amazon deze gratis beschikbaar stelt. Zo weet Amazon wat je hebt klaargemaakt in je Alexa-magnetron en kan het meekijken in de buurt met je Amazon Ring deurbelcamera. En dankzij ‘Echo Auto’ kan het bedrijf zien wanneer je vertrekt en thuiskomt. Niet alleen op individueel niveau, maar ook op macroniveau maakt Amazon een ongekend sterk en fijnmazig profiel van menselijk gedrag. Inzicht in wie we zijn, wat we doen en waarom we dat doen.
Stemanalyse
Wat mij ook zorgen baart is dat Amazon grote hoeveelheden van onze spraakdata kan verwerken en daar stemanalyses op uitvoeren. …. Op basis van iemands stemgeluid kun je iemands identiteit, leeftijd, geslacht en lengte inschatten. Maar ook (voorzichtige) uitspraken doen over iemands gevoeligheid voor ziektes als depressie, PTSS, autisme, parkinson of alzheimer.
Ik schreef hierover eerder al het opinie-artikel voor het FD: Stemanalyse: Mag kunstmatige intelligentie onze stem zonder meer analyseren?
“Eén van de risico’s is bijvoorbeeld dat mensen al bij de deur van een verzekeraar stiekem worden geweigerd, omdat ze op basis van stem-analyse een hogere kans krijgen toebedeeld op latere lichamelijke of mentale problemen. En stel je voor dat bij telefonische sollicitaties dit soort stemanalyse-software wordt gebruikt, die kan detecteren dat je zwaarlijvig, Marokkaans of gevoelig voor stress bent. Of alledrie. Of dat ik bij autopech de wegenwacht bel en dat de software registreert dat ik alcohol heb gedronken.”
Verschraling
Mijn zorg gaat nog verder. Minder zichtbaar, maar niet minder belangrijk. Het gaat over de invloed van slimme assistenten op ons mens-zijn. En dan heb ik het niet over de neiging van mensen om onbeleefde commando’s te blaffen naar het apparaat en zo onvriendelijkheid in de hand te werken. Dat kun je immers snel oplossen door een ‘beleefdheids-app’ te installeren.
Nee, het ligt anders. Ik denk dat mensen surrogaat-vriendschappelijke gevoelens gaan beleven in relatie met dit soort software. Zeker wanneer de software slimmer wordt. Zonder schaamte zullen wij namelijk in de toekomst onze gevoelens en gedachten met hen kunnen delen. De digitale assistent heeft altijd aandacht, een luisterend oor en zal nooit onbeleefd reageren. En hoewel we met ons hoofd wel weten dat het digitale technologie is, vertelt ons brein dat we praten met iemand anders. We zijn evolutionair nog niet gewend aan het idee dat een pratende stem geen mens is.
En omdat de grote softwarebedrijven steeds beter worden in het distilleren van onze gemoedstoestand uit onze spraak, zal het onderlinge gesprek met het slimme apparaat binnenkort dus ook soepeler lopen. De software weet hoe je je voelt en speelt daarop in. Onze relatie wordt dus steeds intiemer met Alexa. Voor veel mensen is deze surrogaat vriendschap voldoende, ben ik bang. Aan contacten met ‘echte’ mensen zullen ze minder behoefte hebben. Een verschraling, vind ik dat.
Frictieloosheid
Wat mij vooral steeds meer intrigeert, is dat we in een wereld komen te leven waarin heel veel handelingen nog zonder frictie plaatsvinden. Het zal niet lang meer duren of de software denkt een stap voor ons uit. Weet wat we willen voordat en zonder dat we het zelf al wisten.
Wanneer Alexa ons continu en snel voorziet in onze behoeften, wat doet dit met ons vermogen frustratie te kunnen verdragen? Heeft dit device een vergelijkbare werking als de smartphone op onze verveling? Dat we ons niet meer kúnnen vervelen, omdat we altijd onze smartphone in onze zak hebben? Dat we nauwelijks frustratie kunnen verdragen, omdat we gewend zijn aan meedenkende software die snel en direct onze behoeftes bevredigt? Die de praktische jeuk wegneemt uit ons dagelijks leven? En nogmaals: ligt in ongemak juist niet onze kickstart tot menselijke reflectie?
