"Artificiële intelligentie tast ons mens-zijn aan"

Artificiële intelligentie is een hype van jewelste gebleken in 2018. Het lijkt erop dat dat niet anders wordt in 2019 en de komende jaren. AI is een breed toepasbare en disruptieve technologie die wellicht de hele samenleving ingrijpend zal transformeren, net zoals pakweg de auto, het internet en mobiele communicatie dat eerder deden.

Maar gebeurt dat in de goede of slechte zin? Het is een vraag die opvallend vaak valt. Als technologie staat AI nog in de kinderschoenen, en toch worden nu al veel vraag­tekens geplaatst bij de gevolgen voor de mens. Zelfs de experts die werken aan de ontwikkeling van AI zijn tot op zekere hoogte ongerust. Dat blijkt uit een onderzoek van Pew Research. De Amerikaanse denktank peilde bij bijna duizend personen naar hun sentiment over AI. Alle geraadpleegde personen zijn betrokken bij het creëren van kunstmatige intelligentie, als onderzoeker, ontwikkelaar, beleidspersoon of zakelijk figuur. Ondanks – of misschien net door – hun engagement blijken de bevraagde experts zowel positieve als negatieve gevolgen te voorspellen.

Geen Terminator

‘Zal de mens er dankzij AI op vooruitgaan?’ Dat het antwoord op deze vraag niet beslist ‘ja’ luidt, was al duidelijk. Welbekend zijn het interview met fysicus Stephen Hawking waarin hij artificiële intelligentie omschrijft als ‘potentieel gevaarlijk’ en de gechargeerde uitspraken van Tesla-topman Elon Musk. Zo vindt Musk dat de race naar de ultieme AI de derde wereldoorlog kan veroorzaken.

Voor alle duidelijkheid: zowel Hawking als Musk hebben het dan over een zogenaamde ‘strong AI’ of een ‘generalized machine intelligence’. Of, met andere woorden: een computer die zelf kan denken en leren. Dat is iets anders dan de zogeheten expertsystemen met zelflerende routines die iets heel specifieks doen. Denk bijvoorbeeld aan de software in een Tesla die de auto (relatief) autonoom laat rijden of aan AI-routines die gezichten herkennen op veiligheidscamera’s in een luchthaven.

Omdat de term AI een hype is, wordt het voor al die zaken gebruikt. Wat niet helemaal onterecht is, want expertsystemen kan je inderdaad beschouwen als een vorm van kunstmatige intelligentie. Alleen vertroebelt de discussie daarmee wat. De schrikbeelden van Hawking en co gaan minder over expertsystemen; de kans is eerder klein dat gespecialiseerde software in een auto een manier vindt om een kernoorlog te starten.

Wat maakt die enquête van Pew Research bij AI-experts dan duidelijk? In de eerste plaats dat ze niet per se vrezen voor die grote nachtmerrie van een denkende computer die besluit komaf te maken met het menselijke ras, zoals pakweg Skynet uit de Terminator-films. Maar ook dat ze wel ongerust zijn over de langetermijngevolgen van AI op het mens-zijn.

De vijf grote gevaren die de bevraagde experts zien, zijn:

1. De mens dreigt een stukje controle en zelfbeschikkingsrecht te verliezen. Steeds meer beslissingen worden overgelaten aan geautomatiseerde processen, waardoor burgers de mogelijkheid verliezen om een beslissing te beïnvloeden of zelfs om te snappen hoe die tot stand kwam. Daarbij binden ze vaak in aan privacy, misschien wel zonder het minste protest. ‘Tot nu toe heeft gemakzucht voorrang genomen op privacy. Ik vermoed dat dat niet gaat veranderen’, denkt internetpioneer Michael M. Roberts.
2. Omdat algoritmes zelf beslissen, bestaat het gevaar dat mensen op langere termijn kennis en initiatiefzin kwijtraken. Samenwerken met anderen of iets ondernemen zonder de hulp van een AI worden taken die de meesten niet meer aankunnen of willen.
3. Hoewel er een ontluikend veld is rond ethiek en AI, is de kans reëel dat ontwikkelaars zwarte dozen of expertsystemen zonder een waardensysteem programmeren. Aangezien het vooral grote bedrijven en overheden zullen zijn die AI’s uitbaten, bestaat het gevaar dat ze de binnenkomende data misbruiken. Een AI-systeem dat met gezichtsherkenning een stad beveiligt, kan bijvoorbeeld tegelijk lastige burgers in de gaten houden.
4. Veel jobs staan op de helling. ‘Een groot deel van de bevolking zal zijn werk permanent kwijtraken’, zegt Amy Webb van de New York University. En ja, er komen misschien nieuwe banen bij, maar er zijn er meer die verloren gaan. Dat kan leiden tot heuse volksopstanden, luidt het.
5. Het vijfde gevaar omschrijven de onderzoekers als chaos. Het sluit aan bij wat onder andere Hawking vreesde: autonome wapensystemen en AI’s die via informatielekken en hacking ‘oorlog’ voeren tegen bepaalde groepen. Al dan niet in het kader van een strijd tussen politieke tegenstanders. Ook is het niet onmogelijk dat cybermisdadigers AI’s inzetten. In zo’n scenario staan vele levens op het spel. ‘Ik verwacht dat we tegen 2030 regelmatig AI inzetten om oorlog te voeren en mensen te doden, en dat we dat efficiënter doen dan ooit. En omdat we zelf niet aan het doden zijn, liggen we daar als samenleving minder van wakker’, waarschuwt Simon Biggs van de University of Western Australia.

Verplicht samenwerken

Grimmig lijstje, dat. Toch zijn de AI-experts niet helemaal zwartgallig. Op de vraag of ze denken dat de mens er dankzij AI in 2030 beter aan toe zal zijn, antwoordt 63 procent van de bevraagden dat ze geloven in een positief toekomstbeeld. Kunstmatige intelligentie heeft veel voordelen, denkt een grote meerderheid.

Expertsystemen zorgen voor meer levenskwaliteit in de gezondheids- en ouderenzorg. Een AI kan bijvoorbeeld indicatoren interpreteren en sneller een diagnose bij een patiënt stellen. Dat zou veel geld besparen en levenskansen vergroten, omdat therapieën vroeger kunnen starten. Een aantal bevraagden gelooft bovendien dat artificiële intelligentie op basis van grootschalige data de volksgezondheid kan verbeteren, bijvoorbeeld door in te grijpen op voeding.

Slimme software in auto’s, gebouwen en gemeenschappen sparen tijd, geld en zelfs levens. ‘Tegen 2030 zullen we wel verplicht zijn om samen te werken met machines’, denkt Sertain Research-onderzoeker Barry Chudakov. ‘Het wordt de enige manier waarop we het hoofd kunnen bieden aan de effecten van grote, simultane ‘versnellingen’: technologische vooruitgang, globalisering, klimaatverandering, en de bijbehorende mondiale migratie.’

Van die voordelen kunnen we enkel genieten als we de gevaren in rekening brengen. In de enquête vroeg Pew Research aan de experts of zij manieren zien om de nadelen van AI op te vangen. Het goede nieuws is dat velen oplossingen zien. Het minder goede nieuws is dat ze bijzonder grote inspanningen zullen vragen.

Zo denken de onderzoekers dat economische en politieke systemen zich anders moeten organiseren om het banenverlies te compenseren. Doen ze dat niet, dan kunnen ze niet voorkomen dat een groot ‘verloren’ deel van de samenleving doelloos door het leven gaat. Nog uitdagender is dat de mensheid over grenzen en belangen heen moet leren samenwerken om eensgezind om te gaan met kunstmatige intelligentie. Want die zal een mondiale collaboratie vragen zoals de wereld dat nog nooit heeft gezien.

Om te vermijden dat artificiële intelligenties koude, onmenselijke beslissingen nemen, moeten ze een waardensysteem krijgen en zelfs een gevoel voor empathie. Een AI die een camerasysteem met gezichtsherkenning beheert, moet bijvoorbeeld weten welke beslissingen en praktijken de privacy aantasten. Als een gewetenloze politicus dan vraagt om onschuldige burgers te volgen, kan het systeem weigeren om dat verzoek uit te voeren.

Om dat te ontwikkelen, is volgens de bevraagde experts een ‘moonshot’-attitude nodig: programmeurs zullen wel heel ambitieus te werk moeten gaan, want AI’s met een waardensysteem uitrusten is absoluut geen sinecure. En als het hen lukt, moet iemand nog een manier bedenken om die empathiesystemen te reguleren en certificeren. Kwestie van zeker te zijn dat een AI de juiste waarden meekrijgt van zijn bouwers. Of zoals Erik Brynjolfsson, directeur van het MIT Initiative on the Digital Economy, zegt: ‘We moeten agressief werken om zeker te zijn dat technologie past bij onze vredelievende waarden.’