We naderen een tijdperk waarin kunstmatig intelligente generatieve systemen creëren. Geloofwaardig hyperrealistische gezichten, driedimensionale steden, leesbare teksten en geloofwaardige audio. Hierdoor ontstaan nieuwe invalshoeken en ideeën. Deze generatieve technologie zorgt er ook voor dat de scheidslijn tussen authentiek en nep steeds dunner wordt.

Siri Beerends over deepfake modelsEn dat niet alleen: deze technologie kan ook worden misbruikt, zoals in het geval van deepfakes, waarmee op grote schaal nep-informatie wordt verspreid. Een kunstmatig intelligent systeem kan teksten, beelden, video’s en audio-opnames creëren om ons te misleiden.

Siri Beerends, Cultuursocioloog bij SETUP, houdt zich actief bezig met de relatie tussen technologie en mens. Ik vroeg haar kijk op deze synthetische wereld.

Hoe kijk jij als cultuursocioloog aan tegen deepfake technologie?

Wanneer ik iets hoor over deepfake technologie komt het mij in de meeste gevallen over als problematisch. Kun je echt en nep nog van elkaar onderscheiden? En voedt deze technologie niet het algehele wantrouwen wat er al is ten aanzien van nieuws? Ik maak me soms zorgen dat mensen in de samenleving onverschillig worden ten aanzien van nieuws. Dat ze denken “ik kan toch niet meer zien of iets echt of nep is dus het interesseert me niet meer”. Het moderne leven is voor velen al best veeleisend en ik vraag me af of mensen nog wel moeite gaan doen om zichzelf mediawijs te maken.

Mijn ervaring is dat mensen op dit vlak vaak passiever zijn dan ik graag zou willen. De vraag is ook: willen mensen wel mediawijs zijn? Want daarmee creëren ze ook een verantwoordelijkheid om kritischer te worden in hun media consumptie. Ik hoop dus ten zeerste dat deepfake technologie en synthetische media ervoor gaan zorgen dat mensen zich meer bewust worden van manipulatieve technieken in de media, maar ik weet het niet zeker.

Je bestudeert ‘de authenticiteit van nep’. Kun je daar iets meer over vertellen?

Ik zie overduidelijk dat virtueel en realiteit in elkaar versmelten; dat zaken uit de fysieke wereld en de digitale wereld versmelten. Er komen bijvoorbeeld steeds meer virtuele influencers op de markt. Wij van de huidige volwassen generatie maken nog een onderscheid tussen analoog versus digitaal en echt versus nep. Hoe zal dat zijn voor de jongere generatie? En: is het voor hen nog relevant?

Deze virtuele influencers zijn een goed voorbeeld van ‘de authenticiteit van nep’. Het is voor het publiek glashelder dat ze synthetisch, digitaal gecreëerd zijn en dat is in hun ogen dan authentieker dan sommige online influencers van vlees en bloed. Sommigen van deze mensen zijn namelijk heel uitgekookt, sluw en manipulatief in hun pogingen om zo authentiek mogelijk over te komen. Zij veinzen dan bijvoorbeeld hun persoonlijke kwetsbaarheden en emoties. Ik denk dat de jongere generatie wel gecharmeerd is van virtuele beroemdheden omdat ze 100% openlijk nep zijn. Echte mensen van vlees en bloed zijn bezig met Photoshop of je ziet slechts de allerbeste foto van tweeëntachtig geschoten exemplaren. ‘De authenticiteit van nep’ maakt een virtuele beroemdheid erg interessant en ik verwacht dat de populariteit ervan dus gaat toenemen.

 

Deepfake model

 

Maar je laat je ook wel kritisch uit over deze ontwikkeling. Kun je daar iets meer over vertellen?

Ik verdiep mij al langere tijd in het ‘surveillance kapitalisme’. Een ontwikkeling waarbij bedrijven data verzamelen waarmee ze ons gedrag sturen, zodat ze betere gedragsvoorspellingen aan commerciële bedrijven kunnen verkopen. Wanneer ik kijk naar virtuele influencers dan zie ik vooral het verdienmodel van commerciële bedrijven waarbij mensen als grondstof worden gebruikt om reclame-inkomsten te genereren en artificiële intelligentie van techbedrijven te trainen. Wij zijn het product dat data genereert en bedrijven proberen met de informatie uit onze data ons gedrag te beïnvloeden. De mogelijkheden van de digitale wereld zijn hierin veel krachtiger dan ze ooit in de fysieke wereld zijn geweest.

 

Kun je dat concreet maken? 

Tuurlijk, wanneer je kunt chatten met een ‘ouderwetse’ beroemdheid via internet, dan kan deze persoon van vlees en bloed maar één gesprek tegelijkertijd voeren en er worden dan ook geen voorspellingen over jouw gedrag doorverkocht. Bij een digitale variant van een influencer, kan zo’n programma wel tienduizend gesprekken tegelijkertijd voeren. Deze gesprekken leveren natuurlijk enorm veel data op dat het bedrijf vervolgens weer kan gebruiken. Het feit dat technologiebedrijven zoveel data van ons kunnen afplukken om voorspellingen te doen over ons gedrag en wat wij waarschijnlijk leuk vinden, creëert een onevenwichtige machtsbalans. Daar maak ik me zorgen om. Dat aan de buitenkant iets ’gewoon een gesprek met een digitale beroemdheid’ lijkt, maar dat bedrijven uit deze gesprekken informatie proberen af te leiden. Informatie die overigens totaal niet hoeft te kloppen met de werkelijkheid.

Het data-gedreven sturen van ons gedrag en onze smaakvoorkeuren maakt technologiebedrijven steeds machtiger.
Algoritmen analyseren onze data en plaatsen ons vervolgens in simpele categorieën en stereotyperende hokjes. Als jij bijvoorbeeld veel woorden gebruikt waaruit blijkt dat je rapmuziek leuk vind, plaatst het algoritme jou in het hokje ‘politiek conservatief’. Vervolgens krijg je alleen maar content aangeboden die politiek conversatief is. Ja, dan kun je inderdaad politiek conservatief wórden. Niet omdat ‘het bedrijf alles over je weet’ of ‘omdat het algoritme jou beter kent dan je beste vriend’, maar omdat het algoritme ervoor zorgt dat je een bepaalde kant op wordt geduwd, waardoor de voorspelling een waarheid wordt. Zo’n voorspelling werkt dus als een selffulfilling prophecy, iets wat maar weinig mensen op hun radar hebben staan maar wel heel belangrijk is.

Waar zie je de oplossingen?

Allereerst natuurlijk dat mensen zich meer bewust worden van het feit dat techbedrijven data gebruiken om informatie af te leiden. En dat deze afgeleide informatie (de simpele hokjes en categorieën waar algoritmen ons in plaatsen) helemaal niets zegt over wie jij bent, maar ondertussen wel wordt gebruikt om jouw smaakvoorkeuren en gedrag te sturen. Ook vind ik dat consumenten vaker mogen nadenken over een nieuwsbron. Over de persoon of organisatie die bepaalde informatie verspreidt: wat is hun doelstelling, motief? Ik zou dus willen dat mensen wat meer mediawijs zouden zijn. Ook vind ik dat we moeten nadenken over de rol van technologie om deze technologische trend te tackelen. Is meer technologie de beste oplossing?

Ik vind het bijvoorbeeld niet meer dan terecht dat we over anti-deepfake software best nog wel even kritisch mogen zijn. Hoe komt deze software tot stand? Welke data wordt gebruikt? Kun je beslissingen herleiden?

En niet te vergeten: hoe detecteren we dan valse anti-deepfake software? Software dat claimt deepfakes te herkennen, maar dat ondertussen niets doet of een computervirus installeert. Dit soort software zal er zeker komen. Je hebt anno 2019 ook heel veel programma’s die beweren computervirussen, malware en andere infecties te voorkomen maar zijn tegelijkertijd juist de verspreider ervan. Hoe zal dat gaan met nep anti-deepfake software?

 

Boek Jarno als spreker

Mijn klanten