Is Lampje bewust?

Het is logisch onmogelijk ooit de binnenwereld van een ander te ervaren, en het is daarom even onmogelijk volledig zeker te weten dat deze binnenwereld bestaat. Als we wel de binnenwereld van een ander ervaren dan is dit niet meer de ander. Dit is het probleem van het epistemologisch solipsisme, en het plaagt al eeuwen de (vermoedelijke) geesten van vele denkers. [1] Zo schrijft antropoloog Jos de Mul in zijn boek Kunstmatig van nature:“een interessante vraag daarbij is wel hoe wij het verschil zouden kunnen zien tussen een robot met bewustzijn en een geestloze zombie.” [2] Om goed te beantwoorden, is ten minste één robot die onmiskenbaar kan denken uiterst handig: Lampje.

Lampje

Lampje is de trouwe compagnon van Willie Wortel in de wereld van Donald Duck. In Don Rosa’s Uncle Scrooge “Gyro’s First Invention” staat de oorsprong van Lampje beschreven. Wanneer Donald met een kapotte kamerlamp over de chaos in Willie Wortel’s werkkamer struikelt, vallen de kamerlamp en Willie tezamen tegen Willie’s ‘think box’. Wanneer even later de lamp spontaan beweegt, verklaart Willie vervolgens “maybe… it was charged by rays of pure thought!” en geeft hij de kamerlamp daarna armen en benen. [3] Donald neemt met Willie’s uitleg nauwelijks genoegen. Ook Willie is immers tot bedrog in staat. [4]

Lampje kan onmiskenbaar denken. Dit is omdat Lampje soms denkballonnetjes heeft, en iets wat denkballonnetjes heeft kan denken. [5] In de echte wereld bestaan er natuurlijk geen denkballonnetjes, en het is de Duckstadbewoner ook niet gegund te weten wat hun medebewoners in hun denkballonnetjes uitspoken. In plaats van de vraag ‘kan Lampje denken?’ zou ‘hoe kunnen we aan Donald bewijzen dat Lampje denkt?’ dus een veel betere vraag zijn.

Hoe kunnen we aan Donald bewijzen dat lampje denkt?

In zijn paper “Computing Machinery and Intelligence” buigt de Britse wiskundige Alan Turing zich over de vraag: “Can machines think?” Volgens Turing is deze vraagstelling te ambigu, en kunnen we deze beter met een andere vraagstelling vervangen. [6] Om dit te doen bedacht Turing ‘the imitation game’.

Voor ‘the imitation game’ zijn drie participanten nodig (A, B en C) die allemaal in aparte kamers zitten. Communicatie gaat met behulp van een chatapparaat, om het contact zo neutraal mogelijk te maken. C speelt de rol van ondervrager, terwijl A en B beide proberen de ondervrager ervan te overtuigen dat zij B zijn. In de oorspronkelijke uitleg van Turing betreft het hier mannen en vrouwen, maar we zullen later zien dat dit niet essentieel is. Als de ondervrager (C) het onderscheid tussen A en B niet goed kan maken dan is er, aldus Turing, geen reden om te vermoeden dat er een duidelijk onderscheid aanwezig is. A kan het beste winnen door te liegen dat zij B is. Eerlijk zijn werkt voor B het beste, en zo zal hij de ondervrager (C) dus helpen. C wint het spel als hij, door de juiste vragen te stellen, er in slaagt aan te wijzen wie A is en wie B. Turing schrijft:

We now ask the question, “What will happen when a machine takes the part of A in this game?” Will the interrogater decide wrongly as often when the game is played like this as he does when the game is played between a man and a woman? These questions replace our original, “Can machines think?” [7]

“Als lampje erin slaagt Donald te laten denken dat hij Willie is, en Willie is bewust, dan is er goede reden aan te nemen dat Lampje ook bewust is.”

Stel: Lampje speelt A en Willie speelt B. Donald vertegenwoordigt dan de kritische ondervrager C. Door het chatapparaat vormt het geen probleem meer dat Lampje niet kan spreken. Zowel Lampje als Willie zullen dus Donald via chat ervan proberen te overtuigen dat zij Willie zijn. Als Lampje er in slaagt Donald te laten denken dat hij Willie is, en Willie is bewust, dan is er goede reden aan te nemen dat Lampje ook bewust is. Kan Donald ze onderscheiden?

‘Arguments from various disabilities’

Turing geeft in zijn paper een lijst met voor robots onmogelijke eigenschappen die tegenstanders als bewaar tegen zijn theorie kunnen inbrengen. Het is nog maar de vraag of deze eigenschappen überhaupt noodzakelijk zijn voor intelligentie[8], maar als er al een onderscheid te vinden is tussen Willie en Lampje dan zal het waarschijnlijk iets uit deze lijst zijn.

Ik heb de lijst van Turing overgenomen en gemarkeerd waar Lampje wel en niet toe in staat is. Een plus (+) geeft aan dat Lampje iets wél kan, en een min (-) geeft aan dat Lampje iets niet kan. Alle dingen op de lijst waarover ik geen definitief oordeel kan vellen hebben een hekje (#), en de bewijzen staan in voetnoten aangegeven.

Be kind (+), resourceful (+), beautiful (#), friendly (+), have initiative (+), have a sense of humour (+), tell right from wrong (+), make mistakes (+), fall in love (+), enjoy strawberries and cream (-), make some one fall in love with it (+), learn from experience (+), use words properly (-), be the subject of its own thought (+), have as much diversity of behaviour as a man (+), do something really new (+).[9][10]

Het lijkt mij onwaarschijnlijk dat Lampjes spraak- en smaakgebrek doorslaggevende factoren zullen zijn. Lampje en Willie zijn ongeveer even slim.[11] Daarom is het waarschijnlijk dat Donald niet in staat is om Lampje van Willie te onderscheiden. Zo zal zelfs de koppige Donald uiteindelijk moeten toegeven dat het zeer aannemelijk is dat Lampje wél bewust is, ondanks dat Donald dit omwille van het probleem van epistemologisch solipsisme dit nooit volledig zeker kan weten.

Conclusie

Om de vraag hoe wij het verschil zouden kunnen zien tussen een robot met bewustzijn en een geestloze zombie te beantwoorden kunnen we letterlijk naar het verschil tussen een wezen met bewustzijn en de geestloze ‘robot’ kijken. Volgens Turing hebben we genoeg reden om aan te nemen dat een machine bewust is wanneer het vinden van een verschil niet mogelijk is. Op deze manier lopen we niet het risico gegijzeld te worden door het epistemologisch solipsisme, al is er nog wel een risico dat we een lager bewustzijn miskennen.

“Moeten de robotwetten van Asimov niet ook voor Duckstadbewoners gelden?”

Dit betekent niet dat hiermee alle vragen over Lampje definitief zijn afgehandeld: ‘Is het te verantwoorden dat Willie Wortel zijn Lampje niet laat spreken, wanneer hij hiervoor wel de technologie bezit?’[12]; ‘Als Lampje net zo slim is als Willie, kan Lampje dan een tweede Lampje maken?’ en ‘Moeten de robotwetten van Asimov niet ook voor Duckstadbewoners gelden?’ – dit soort vragen vergen verder onderzoek. Het is mijn hoop dat ook op deze vragen mettertijd een passend antwoord kan worden gevonden.

Veel dank aan Simon Derks voor zijn onbaatzuchtige toewijding en enorme kennis over Duckstad. Dit heeft het schrijven van dit paper en stuk begaanbaarder gemaakt. Daarbij was zijn tip over het bestaan van een verhaal waarin Lampje verliefd wordt enorm waardevol. Daarnaast wil ik Regina Delsink bedanken voor het beschikbaar stellen van de Donald Duck van jaarlagen 1987 tot 1995. Als laatste wil ik Max Peters bedanken voor zijn waarde inzichten omtrent de praktische problemen van het zijn van een Lampje.

---

[1] Hyslop, Alec. 2016. “Other Minds.” In The Stanford Encyclopedia of Philosophy. Stanford University, 2005-. Artikel is op grote schaal herzien op 14 januari 2014 en huidige versie is gepubliceerd in de lente van 2016. https://plato.stanford.edu/cgi-bin/encyclopedia/archinfo.cgi?entry=other-minds.

[2] De Mul, Jos. 2016. Kunstmatig van nature, onderweg naar homo sapiens 3.0. (Rotterdam: Lemniscaat b.v.), 169. Italics niet in originele tekst.

[3] Rosa, Don. 2001. “Uncle Scrooge in “Gyro’s first invention”” in Donald Duck: 143, 4 http://alexmagnus.free.fr/Picsou/80%20-%20Gyro’s%20First%20Invention.pdf.

[4] Rosa, 8.

[5] Disney, Walt. Donald Duck Nr. 47. 2007. (Hoofddorp: Sanoma Uitgevers BV.), 8.

[6] Turing, Alan. 1950. “Computing Machinery and Intelligence.” Mind 49: 433-460. Geraadpleegd op 17-12-2017. doi: https://doi.org/10.1093/mind/LIX.236.433.

[7] Turing.

[8] Oppy, Graham en David Dowe. 2016. “The Turing Test.” In The Stanford Encyclopedia of Philosophy.  Stanford University, 2011-. Artikel gepubliceerd in de lente van 2016. https://plato.stanford.edu/cgi-bin/encyclopedia/archinfo.cgi?entry=turing-test

[9] Turing

[10] Voor veel van deze attributen is geen uitgebreide speurtocht nodig. Wat er in Rosa’s “Gyro’s first invention” al duidelijk aan Lampje te zien is, zijn de volgende eigenschappen: kindness, resourcefulness, friendliness, the ability to tell right from wrong (Lampje redt Willie’s leven), ‘a diversity of behaviour’ en ‘the ability to do something really new’ (Lampje verblindt een das uit eigen initiatief) (Rosa 2001, 10). Lampje’s sense of humor is onder andere te zien in Donald Duck nr.11 uit 2008 waar hij zich als cowboy verkleedt (Donald Duck nr. 11 2008, 40). Lampje maakt fouten in Donald Duck nr. 44 uit 1990 en Donald Duck Nr. 18 uit 2003 (Donald Duck nr. 44 1990, 8) (Donald Duck nr. 18 2003, 37-42). Dat Lampje ‘the subject of its own thought[s]’ is, is te zien aan de ‘ik’ waarin hij denkt in Donald Duck nr. 47 uit 2007 (Donald Duck nr. 47 2007, 8), en de omschrijving dat hij “eigen ideeën” heeft in Donald Duck nr.11 uit 2008 (Donald Duck nr. 11 2008, 21). Als laatste is in Donald Duck nr. 7 uit 2009 te zien dat Lampje in staat is ‘[to] fall in love’ en ‘[to] make some one fall in love with him’, wanneer Lampje verliefd wordt op het zusje van Cupido, en zij op hem (Donald Duck nr.7 2009, 6-16). Of Lampje ‘beautiful’ is zal ik me hier niet over uitlaten, hoewel Cupido’s zusje lijkt te denken van wel (Donald Duck nr.7 2009, 6-16).

[11] Disney, Walt. Donald Duck Nr. 11. 2008. (Hoofddorp: Sanoma Uitgevers BV.), 4-5: Lampje wint met dammen.

[12] Willie maakt in D88217 een robot van zichzelf, die een precieze gelijkenis heeft en praten kan (D88217 1990 of 1991, voorblad mist, 22).