Van innovatie tot ethiek: praktische toepassingen van AI
(Artikel bevat een interview met Jarno; het is het omslagverhaal van de september 2018 editie van managementboek magazine.)

Het aantal inspirerende toepassingen van Artificial Intelligence neemt in razend tempo toe. In ziekenhuizen, in call centra, in auto’s, noem maar op. Maar is er een grens aan al die zelflerende algoritmes? Niet alleen technologisch maar ook ethisch? En wie moet er vrezen voor zijn of haar baan?

We zouden makkelijk een heel nummer van dit magazine kunnen vullen met nieuwe, slimme innovaties op gebied van artificiële intelligentie (AI). En een tweede nummer met mogelijke nadelen, gevaren en risico’s van diezelfde vindingen. Het debat over de voor- en nadelen van AI wordt complexer, waaiert steeds verder uit, maar wordt bovenal steeds belangrijker. Omdat we er steeds minder makkelijk onderuit kunnen, zowel in ons werk als in onze rol als consument. Omdat er steeds meer kan, en er tegelijk steeds meer gevaren opduiken, denk aan schending van privacy, machines die de mens overvleugelen, of zelflerende algoritmes waarvan geen mens de werking nog kan begrijpen. Maar in het grote geheel der dingen biedt AI toch vooral voordelen, betoogt ‘business filosoof’ Jochanan Eynikel, auteur van Robot aan het stuur: ‘AI stelt ons beter in staat om misdaad zoals terreuraanslagen te voorkomen; Google maakt dankzij AI voorspellingen over de klimaatopwarming steeds accurater. En we kunnen mensen met een handicap helpen met AI, denk aan een blinde die dankzij een zelfrijdende auto opeens veel mobieler wordt. En ga zo maar door. Daarnaast kan AI het werk voor menigeen veraangenamen, door het overnemen van de dull, dirty and dangerous aspecten van ons werk.’

Virtuele assistent schuift aan

Hoe ver zijn we nu in praktijk, met inspirerende AI-toepassingen? Google verraste in mei met de introductie van Google Duplex, een AI-assistent vergeleken waarbij Siri van Apple en Alexa van Amazon kinderspel zijn. Googles digitale assistent is in staat om telefonisch een afspraak met de kapper of een reservering in restaurant of hotel te maken, uit naam van de gebruiker. Kenners waren onder de indruk van de demo die Google-Ceo Sundar Pichai bij de introductie liet zien: het gesprek klonk als een gewone conversatie tussen twee mensen.

Moeten medewerkers in call centers nu vrezen voor hun baan? Nee. Maar het moment dat zij volledig vervangen kunnen worden door een intelligent systeem dat op alle vragen, klachten en irritaties van consumenten een klantvriendelijk antwoord weet, is nog ver weg. Maar de Amerikaanse startup Cogito heeft nu wel een zelflerend systeem ontworpen dat call center-medewerkers helpt in hun gesprekken met klanten, vertelt Jarno Duursma, auteur van De digitale butler: ‘Dit systeem luistert mee en kan emoties herkennen, zoals irritatie. De medewerker krijgt dan real-time tips om sympathieker over te komen, of om langzamer en duidelijker te praten. Klinkt de medewerker vermoeid, dan verschijnt er op zijn scherm een dampende kop koffie. Cogito is nu bezig om het systeem te leren dat het realtime kan waarschuwen wanneer een medewerker iets vergeet te zeggen. De medewerker wordt dus niet overbodig, maar krijgt er dankzij AI een virtuele assistent bij.’

Gezichtsherkenning

Een snel aan terrein winnende toepassing van AI is gezichtsherkenning. Bezitters van de iPhone X zijn er al helemaal aan gewend hun mobiel te ontgrendelen door er alleen even naar te kijken, dankzij Face ID. ‘Maar die technologie hoeft maar één gezicht te herkennen. Op het vliegveld van Singapore kunnen ze met deze technologie binnen drie seconden liefst 1,8 miljard gezichten herkennen’, zegt Duursma. Handig als men al te lang moet wachten op die laatste al ingecheckte reiziger die nog uitgebreid drank staat in te laden in de taxfree shop. En uiteraard ook handig voor de beveiliging van de luchthaven. Zoals overheden en veiligheidsdiensten steeds vaker gebruik maken van gezichtsherkenning om criminelen op te sporen. Onlangs arresteerde de Chinese politie in één klap 25 gezochte criminelen op een Chinees bierfestival door gebruik te maken van foto’s die genomen werden bij de ingang en die automatisch langs een enorme database met foto’s van criminelen te halen.

Een andere toepassing van slimme beeldherkenning komt van de Britse startup Tractable. Die heeft technologie ontwikkeld waarmee een verzekeraar van autoschades aan de hand van foto’s van het beschadigde voertuig kan bepalen of het voor hun nog winstgevend is om het voertuig te laten repareren. Dit systeem blijkt sneller, beter en goedkoper, dan werken met schade-afhandelaars van vlees en bloed. En detecteert bovendien verdachte claims.

Beter dan de arts

In de zorgsector wordt AI steeds meer gezien als wondermiddel met legio, soms spectaculaire toepassingen. Trendwatcher Richard van Hooijdonk mag zijn presentaties graag beginnen met een filmpje waarbij een arts een RFID-chip in zijn hand injecteert. Sindsdien kan Van Hooijdonk nooit meer zijn autosleutel vergeten: hij opent zijn Tesla met een swipende beweging van zijn hand. En start ook op die manier. De ‘futurist’ schrijft in zijn laatste boek De wereld van morgen over AI-toepassingen in de zorg: ‘We krijgen sensoren in ons lichaam die ons tijdig op ernstige ziekten wijzen; we kunnen straks bijvoorbeeld een hartaanval voorspellen. Daarnaast worden we ouder door onder andere elektronische pillen die ons kunnen waarschuwen in vroege fasen van kanker en burnout.’ Sowieso wemelt het in de medische sector van de hoopgevende AI-innovaties, waarbij zelflerende computers gebruik maken van zogenoemde deep learning neurale netwerken. Analyse door zelflerende computers van duizenden röntgenbeelden wint het wat accuratesse en snelheid betreft steeds vaker van het blote oog van de arts, hoe ervaren die ook is. Dat geldt voor de radioloog die scans beoordeelt, voor de patholoog die weefsel bestudeert door zijn microscoop, voor de dermatoloog die met het blote oog een verdacht plekje op de huid bekijkt. Nu kan de arts een computerbeeld nog op de mail zetten voor een second opinion door een collega-arts, maar hoe lang duurt het nog voordat zelflerende algoritmen deze taak van artsen overnemen, omdat ze het veel beter en sneller doen? Duursma noemt ter illustratie het Israëlische bedrijf Zebra Medical dat een algoritme ontwikkelde dat accurater dan een radioloog kan vaststellen of iemand een wervelfractuur heeft: ‘Dat is hard nodig, omdat radiologen tot vijftig procent van de wervelfracturen van hun patiënten over het hoofd zien.’

Weer een stap verder is de medische consument die het heft zelf in handen neemt. Nu al circuleren er apps als SkinVision waarmee je mogelijke huidkanker net zo goed zelf kunt diagnosticeren als een dermatoloog. Volgens onderzoekers van het Eindhovense Catharina ziekenhuis herkent deze app huidkanker in tachtig procent van de gevallen met zekerheid. Dat klinkt mooi, maar ook weer niet: je zal maar bij die twintig procent zitten.

Ook in de ouderenzorg zijn er legio toepassingen, van de slimme zorgrobot tot intelligente sensoren. Er is inmiddels een complete domotica-industrie ontstaan, opdat ouderen maar zo lang mogelijk thuis kunnen blijven wonen. Die ontwikkeling werd begin deze eeuw al ingezet. Eenzame Japanse ouderen werden in 2001 al verwend met robothond Aibo, een huisdierachtige robot met een, volgens fabrikant Sony, ‘levensechte uitstraling’.

AI mist gezond verstand

Toch heeft AI geen onbeperkte mogelijkheden. De meeste van genoemde innovaties zijn voorbeelden van narrow AI, stelt Eynikel: ‘Daarbij kan een technologie één ding heel goed, zoals een machine die briljant kan schaken of Go spelen. Broad AI daarentegen gaat over leren vanuit een context, waarbij je weet wat wel of niet goed is. Op dat punt ligt AI nog mijlenver op de mens achter. Als je in de auto zit en opeens een bal over straat ziet rollen, redeneer je meteen dat daar wel eens een klein kind achterna zou kunnen hollen, en haal je je voet van het gaspedaal.’ Soms denken mensen dat AI ook dergelijke contextuele taken aan zou kunnen. Ten onrechte, stelt Eynikel. Hij weet van een bedrijf dat van plan is om het gehele managementteam te vervangen door een AI-systeem, dat zelfs kan besluiten om werknemers te ontslaan. ‘Wie wil er nou in zo’n organisatie werken? Managen gaat ook over mensen motiveren, coachen, samenbrengen, kortom over empathisch vermogen dat een AI-systeem niet valt aan te leren. Een geavanceerde zorgrobot kan het werk van een verpleegkundige verlichten, maar nooit volledig vervangen.’

Vergeleken met machines blinken mensen uit in contextueel begrip. Duursma verwijst naar de algoritmes in het systeem van een zelfrijdende auto: ‘Als een wegwerker aan de kant van de weg staat te zwaaien, weten wij dat we vaart moeten minderen omdat er vóór ons waarschijnlijk iets is gebeurd. Voor een algoritme in die zelfrijdende auto is dit een lastige afweging: staat daar nou iemand vriendelijk te zwaaien of waarschuwt hij voor iets?’ NRC deed in juni verslag van het AI-congres CogX in Londen, waarin AI-deskundige Adrian Weller van Cambridge Unversity op een aantal beperkingen van Artificial Intelligence wees: ‘AI kost vooralsnog extreem veel rekenkracht en energie, en kan alleen heel specifieke taken uitvoeren. Zoiets als gezond verstand heeft AI nog lang niet.’

Banenmotor of niet?

Een ander heikel punt is de invloed van AI op onze banenmarkt. McKinsey onderzocht vorig jaar de potentiële impact van technologische ontwikkelingen zoals machine learning en kunstmatige intelligentie op de arbeidsmarkt van negen Europese landen ‘die digitaal vooroplopen’, waaronder Nederland. De conclusie: automatisering en kunstmatige intelligentie brengen per saldo significante voordelen – zoals nieuwe banen en verhoogde productiviteit – maar dan moeten we wel eerst het nodige doen aan ons onderwijs. Lukt dat, dan hebben we er volgens de rekenmeesters van McKinsey in 2030 per saldo 100.000 banen bij. Eynikel vertelt dat hij, op bezoek bij automatiserende bedrijven graag mag vragen of er per saldo banen zijn weggevallen of bijgekomen: ‘En dan blijkt altijd het laatste. Er zijn robots bijgekomen, maar de productiviteit is toegenomen waardoor er toch weer mensen nodig zijn.’ Deze tendens is goed nieuws, zou je zeggen. Maar daar valt wel wat op af te dingen. Neem juristen. Een steeds groter deel van hun werk, zoals het opstellen van contracten, wordt geautomatiseerd. Een belangrijke softwareleverancier is Wolters Kluwer. Die haalt inmiddels 85 procent van de omzet uit digitale diensten en oplossingen waarmee advocaten, artsen, accountants en andere zakelijke dienstverleners hun werk efficiënter kunnen uitvoeren. De voormalig uitgever heeft een groot deel van de redacteuren allang vervangen door software engineers, waaronder ‘digiproof’ juristen die de software voor hun vakgenoten schrijven.

Routinewerk goede leerschool

Handig dus voor advocatenkantoren, maar een jonge advocaat leert het vak nou juist door eerst eens een simpel contract op te stellen, waarschuwde advocaat en hoogleraar Global ICT Lokke Moerel in juni in het FD. Door te leren, met name van gemaakte fouten, kan de nieuwkomer steeds complexere taken aan. Zoals je een peuter ook niet meteen op een mountainbike zet, maar hem leert fietsen op een driewieler. Als al het juridische routinewerk is weg geautomatiseerd, houd je alleen werk over voor ervaren advocaten. Jonge advocaten kunnen straks, als hun ervaren collega’s zijn afgezwaaid, geen ingewikkelde contracten meer opstellen of beoordelen, betoogt Moerel. En hoe efficiënter algoritmen in de loop der tijd worden, des te moeilijker wordt het voor jonge advocaten om contextuele beoordelingen of ethische afwegingen te maken. Laat staan dat ze nog goed kunnen inschatten of de uitkomst van een algoritme juridisch juist is, aldus Moerel. Kortom, waar routinewerk wordt overgenomen door algoritmen – niet alleen bij advocaten, ook bij verzekeraars, hypotheekverstrekkers, belastingadviseurs et cetera – is het lastig om de vereiste vakkennis op te bouwen. Zoals we ook steeds meer vaardigheden verliezen door de opkomst van kunstmatige intelligentie. Wat is het telefoonnummer van uw partner? Wat doet u als op vakantie de mobiele navigatie in uw huurauto wegvalt? Hopen en bidden dat uw mobiele telefoon niet leeg is?

Ethiek

Van zaken als morele overwegingen en ethisch besef hebben slimme computersystemen geen kaas gegeten, zegt Duursma: ‘Slimme computersystemen nemen steeds meer cognitieve taken van ons over, voeden ons met uitkomsten van soms moeilijk te herleiden beslissingen. We stoppen er informatie in, maar weten niet precies hoe de antwoorden tot stand komen.’ Daarnaast is er vaak gebrek aan transparantie hoe een algoritme beslissingen neemt. Bovendien zijn algoritmes bovengemiddeld vaak vooringenomen. En als onjuiste gegevens zijn gebruikt, krijg je slechte resultaten. Garbage in, garbage out. Daarom noemt de wiskundige Cathy O’Neil algoritmes ook wel ‘weapons of math destruction’.

Eynikel stelt dat technologie niet neutraal is: ‘Technologie beïnvloedt menselijk gedrag. Flitspalen sturen het gedrag van autobestuurders in het verkeer. Met de komst van prenataal onderzoek zoals echografieën kwamen ook nieuwe morele vraagstukken over wat een menswaardig leven is. Achter elk ontwerp zit een visie over wat goed voor ons is. Technologie en moraal zijn dus met elkaar verweven.’

Niet minder maar anders

Dit artikel kwam tot stand door gesprekken met deskundigen, en het raadplegen van eerdere teksten. Waarna uw verslaggever ging nadenken, schiften en schrijven. Zoals hij dat al ruim twintig jaar doet. Maar voor hoe lang nog? Hoe lang duurt het nog voor slimme software tienduizenden artikelen over AI scant, een zoetgevooisde computerstem interviews afneemt waarna er een kant-en-klaar artikel uitrolt? Nu al wordt het schrijven van marktrapporten of sportsamenvattingen steeds meer geautomatiseerd. Bij Associated Press schrijft software automatisch artikelen over jaarverslagen van bedrijven. Staan de AP-journalisten nu op straat? Nee, Associated Press heeft geen enkele journalist ontslagen. Die hebben nu meer tijd gekregen voor andersoortige verhalen, denk aan ingewikkelde onderzoeksjournalistiek. Oftewel: minder repetitieve taken, meer denkwerk. Niet minder werk, maar ander, vaak leuker werk.

Artikel is het omslagverhaal van de september 2018 editie van managementboek magazine.

Contact met Jarno

Mijn klanten