Kunstmatige domheid

Als ik nieuwsberichten lees over onderzoek naar artificiële intelligentie, moet ik vaak aan de Babylonische gerstprijzen denken. Dat zit zo. 

Iedereen die ooit met een computer heeft gewerkt, kan het bevestigen: technologie helpt ons om sneller domme dingen te doen. Dat geldt ook in het AI-onderzoek. De training van een neuraal netwerk kost veel rekentijd en dus veel energie, en een programmeerfoutje is zo gemaakt. Dat komt dikwijls pas aan het licht nadat de supercomputer dagenlang heeft staan blazen. In het licht van een opwarmende aarde moeten we daar vaker bij stilstaan, zeker als de uiteindelijke toepassing frivool is. 

Het kan nog erger: wat als de onderzoeksvraag echt kansloos is? Als er naar een verband gezocht wordt dat simpelweg niet bestaat? Dan baat extra rekenkracht niet en produceert AI enkel kunstmatige domheid. Nieuw is dat probleem trouwens niet. Het is minstens zo oud als het spijkerschrift. 

Voor Babyloniërs was gerst het belangrijkste graanproduct dat ze in bulk verhandelden, net zoals dadels, mosterd, sesam, kardemom en wol. De marktprijs van deze goederen fluctueerde sterk. Vermoedelijk was de koers afhankelijk van de oogst en van vervoerskosten, die op hun beurt afhingen van de grillen van het weer (en daarmee gepaard gaande droogtes of overstromingen). 

Vanaf de 7de eeuw v.Chr. noteerden Babyloniërs niet alleen de marktprijzen, maar ook het weer, de waterstanden, opvallende maatschappelijke gebeurtenissen én hemelwaarnemingen. Dat hielden ze eeuwenlang vol, tot kort voor het begin van onze tijdrekening. Blijkbaar zochten ze naar manieren om de grillige evolutie van de koersen te voorspellen aan de hand van de sterren. 

Op een van hun tabletten in spijkerschrift staat bijvoorbeeld dat het de nacht van de 27ste in de zesde maand bewolkt was met windvlagen, dat Jupiter opkwam en dat Venus, Mercurius en Mars in het sterrenbeeld Maagd stonden en Saturnus in Waterman. Datzelfde tablet vermeldt ook de gerstprijs van die maand. 

Deze tabletten worden nu ‘astronomische dagboeken’ genoemd, maar je kunt net zo goed spreken van astrologische tabellen. De Babyloniërs legden dus zowel de basis voor de hedendaagse sterrenkunde (de astronomie), als voor de magische gedachte dat de sterren een rechtstreekse invloed zouden uitoefenen op menselijke gebeurtenissen (de astrologie). In Een wereld vol patronen voert Rens Bod deze Babylonische dagboeken aan als een voorbeeld van een mislukte zoektocht naar patronen. Voor zover we weten, zijn ze er namelijk nooit in geslaagd een verband te vinden tussen posities van hemellichamen en de gerstprijs. 

Daar moet ik aan denken als ik over AI-onderzoek lees. Bijvoorbeeld bij een bericht over een neuraal netwerk dat getraind is om op basis van foto’s iemands politieke voorkeur te bepalen. Neurale netwerken die getraind worden op basis van historische data, waar menselijke biases in vervat zitten, nemen die biases over, soms zelfs in versterkte vorm.

Dat is zo, maar naar mijn aanvoelen zit het probleem dieper dan bias of onnauwkeurigheid in de trainingsdata. Het probleem van de Babyloniërs was immers ook niet dat ze geen telescoop hadden! Zelfs zonder instrumenten verzamelden ze een schat aan waarnemingsdata. Het echte probleem was dat de astrologische hypothese op drijfzand is gebouwd: er bestaat nu eenmaal geen zinvol verband tussen de variabelen – de stand van de planeten en de gerstprijs –, zoals ze hadden gehoopt. 

De hoop het karakter, IQ of de neiging tot crimineel gedrag van een persoon af te lezen aan zijn of haar uiterlijk is minstens even hardnekkig. De frenologie, waarbij de vorm van het hoofd in verband werd gebracht met allerlei psychologische eigenschappen, wordt nu beschouwd als een pseudowetenschap. In de 19de eeuw was het echter een respectabele en bloeiende tak van de wetenschap. AI-onderzoekers die deze geschiedenis niet kennen, zijn gedoemd haar blunders te herhalen. Ze worden daarin bijgestaan door ongeziene rekenkracht. In een dataset met veel variabelen vind je altijd wel een verband. Verbanden die louter op toeval berusten zijn niet reproduceerbaar, maar replicatieonderzoek is zeldzaam in AI. Intussen heeft de onderzoeker toch mooi een publicatie op zak. 

Exploratief onderzoek kan nochtans waardevol zijn. Zoals Bod schrijft over de astrologie: ‘Als bijvangst vonden de Babyloniërs wel de beroemde patronen in de planeetbewegingen, en de regels voor het voorspellen.’ Het valt dus niet uit te sluiten dat het huidige AI-onderzoek iets van blijvende waarde zal opleveren, naast al die hete lucht. 

Credit openingsbeeld: Gavin Collins, Wikipedia Commons