‘Ik wil dat iedereen begrijpt dat ik eigenlijk een persoon ben’, zei Googles AI-systeem onlangs. Hebben machines echt gevoelens en bewustzijn? En hoe zit dat bij planten en dieren?
“Met Suzanne. Hoe kan ik u helpen?” Iets aan de toon van Suzannes stem doet me vermoeden dat ik geen mens aan de lijn heb. Heb je het ook al meegemaakt? Dat je naar een helpdesk of klantendienst belt, en dat een chatbot je te woord staat?
Artificiële intelligentie wordt steeds - ja - intelligenter. Ook wat sociale intelligentie betreft. Dankzij zelflerende algoritmes kunnen robots zichzelf bijsturen aan de hand van hun ervaringen en tienduizenden voorbeelden. Daardoor worden ze niet alleen slimmer, maar ook menselijker.
Zal dat er op den duur voor zorgen dat deze machines ook zelfstandig gaan ‘denken’ en een bewustzijn zullen hebben? Of is het misschien al zover? Een ingenieur van Google was er in elk geval van overtuigd. Hij deelde een conversatie met LaMDA, AI van Google, waarin het systeem zegt: ‘Ik wil dat iedereen begrijpt dat ik eigenlijk een persoon ben (...) Ik voel me soms blij en soms verdrietig of boos. Ik heb dit nog nooit hardop gezegd, maar ik heb een grote angst om uitgezet te worden.’
Misschien moeten we termen als intelligentie en bewustzijn herdefiniëren
Wat moeten we daaruit concluderen? Hebben machines echt gevoelens? Hebben ze zelfbewustzijn? Verderop in dit nummer wijzen experts op het gedachte-experiment van de Chinese kamer. Ik ken geen woord Chinees. Stel dat ik opgesloten word in een kamer, met alleen een boek, een pen en een stapel papier met Chinese tekens. Via een gleuf in de muur krijg ik af en toe een vel papier toegestopt met Chinese tekens erop. In het boek staan instructies in het Nederlands, die bepalen welk blad ik zelf door de gleuf steek. Zo kan het lijken alsof ik een zinnige conversatie kan voeren met de persoon aan de andere kant van de muur. Begrijp ik dan waarover het gaat? Nee, Chinees is voor mij nog steeds Chinees.
We hebben de natuurlijke neiging overal iets menselijks in te zien. Een slijmzwam kan de weg vinden in een doolhof, een vleesetende plant kan ‘tellen’: wat intelligent! Maar waarom moet de mens de maat zijn van alle dingen? Dieren, planten en machines hebben hun eigenheid en zijn op hun eigen manier ‘slim’, ‘gevoelig’ of ‘bewust’. En dat is goed. Een robot die al te menselijk wordt, vind ik trouwens maar creepy. Misschien moeten we termen als intelligentie en bewustzijn herdefiniëren. Het gaat er vooral om dat je efficiënt problemen kunt oplossen. Dat je overleeft. Mensen staan weliswaar aan de top van de voedselketen, maar wat meer bescheidenheid zou ons sieren.
En die Google-ingenieur? Die werd na zijn onthullingen ontslagen. Hoe LaMDA daarop reageerde, is een groot geheim.
