Inleiding

Een boek om in te duiken: De onttovering van AI - Een pleidooi voor het gebruik van gezond verstand. Een frisse wind in het mistige Artificial Intelligence-landschap!

Ronald Meester en Marc Jacobs (R&M; niet oneerbiedig bedoeld) staan aan het roer en nemen je mee naar de wondere wereld van Artificial Intelligence - AI, oftewel kunstmatige intelligentie.

Intelligentie wordt traditioneel opgevat als de mogelijkheid om concepten te formuleren, proposities op waarde te schatten (is een bepaalde stelling/positie waar/niet waar?) en de samenhang en overtuigingskracht van (combinaties van) argumenten te beoordelen.

Conceptualiseren is een alledaags aspect van intelligentie: van driehoek naar ‘driehoekigheid’ (Pythagoras!); van een levende hond naar ‘leven’ (bomen, spinnen, dolfijnen, spreeuwen, mensen, enzovoort); van een rode wand in een huiskamer (echt?) naar ‘roodheid’.

In deze blogpost/boekbespreking zal ik mij echter richten op hoofdstuk 4 dat over bewustzijn gaat.

Bewustzijn is in mijn optiek verreweg het spannendste thema als het gaat over AI. De mondiale filmografie, bijvoorbeeld, staat bol van de computers en robots met (zelf)bewustzijn, althans volgens de filmscripts. En dat niet alleen van de laatste tijd!

Mijn favorieten: Blake’s 7 (1978 - 1981) en de computer Orac (die de toekomst kan voorspellen; interessant!); 2001: A Space Odyssey (1968) en HAL9000; Blade Runner (1982) en de replicants (met Rutger Hauer als Roy Batty); WALL-E (2008) en de zelfbewuste robots Wall-E en Eve.

A landscape of consciousness van Robert Lawrence Kuhn is werkelijk een schatkist aan beschrijvingen van en reflecties op bewustzijn. Hij citeert filosoof Patricia Churchland die opmerkt (mijn vertaling):

“Hoe krijg je gedachten uit een stuk vlees. Dat is de grootste vraag.”

R&M winden er geen doekjes om als zij opmerking “waarom het volgens ons tamelijk bizar is te veronderstellen dat de huidige of toekomstige AI-systemen dat (bewustzijn dus) hebben”.

Uiteraard halen R&M veel meer overhoop; ze zijn inderdaad glansrijk in staat AI te ontdoen van bepaald gezwets dat als een ‘oorwurm’ ons al veel te veel ongemak heeft bezorgd. Chapeau!

Ten aanzien van het thema bewustzijn laten R&M teveel liggen, IMHO. Hier ontbreekt het aan eenduidigheid en inzicht. Enfin, een kleine omzwerving in het bewustzijn, met R&M.

Het bewustzijn in De onttovering van AI

R&M gaan aan het begin van hoofdstuk 4 meteen naar het hart van de zaak. Ze merken het volgende op:

“Zou het toch niet zo kunnen zijn dat enorme complexiteit ‘automatisch’ tot een bepaald soort bewustzijn kan leiden? Zou het niet gewoon zo kunnen zijn dat bewustzijn uiteindelijk te begrijpen is in termen van aardse zaken als materie, en de fysische en chemische interactie tussen diezelfde materie? Met andere woorden, zouden we bewustzijn echt niet kunnen reduceren tot een weliswaar complex maar uiteindelijk toch gewoon fysisch of chemisch verschijnsel, waarmee AI-systemen in principe ook echt bewust zouden kunnen zijn? Reduceren in dit hoofdstuk is het kunnen begrijpen van een complex begrip in termen van de onderliggende fysica en chemie.”

Reductionisme is veelal het academische ‘antwoord’ op het bestaan van bewustzijn, tenzij men wil beweren dat bewustzijn een illusie is. Dát is een zelfondermijnende onderneming omdat, minimaal, in de verwijzing naar het vermeende illusoire karakter van bewustzijn er kennis moet bestaan van de werkelijkheid.

Anders gezegd: als iets een illusie wordt genoemd, betekent dat per definitie dat er zoiets als een werkelijkheid moet bestaan waaruit men kan beoordelen wat wel en wat niet een illusie is!

De illusie theorie van bewustzijn is … juist ja, een hersenschim.

Het reductionisme, daarentegen, gaat uit van de idee dat het complexe - het bewustzijn - in de basis niets anders is dan chemie en fysica. Beiden zijn de ‘basisingrediënten’ waaruit, als het ware vanzelf, het bewustzijn te voorschijn komt. “Emergentie” dus, zoals R&M schrijven:

“Dat woord is afgeleid van het Engelse ‘to emerge’, en betekent zoiets als ‘zomaar verschijnen’. … De kerngedachte van emergentie is dat een bepaald verschijnsel optreedt dat niet helemaal te begrijpen of te beschrijven is in termen van de onderliggende structuur; het overstijgt als het ware de componenten waaruit het voortkomt. Je zou bijvoorbeeld kunnen zeggen dat een bos haar bouwstenen (de bomen) overstijgt: je kunt in een bos bijvoorbeeld verdwalen, terwijl dat begrip ‘verdwalen’ in de context van een enkele boom helemaal geen betekenis heeft. Een ander voorbeeld is dat leven de fysica emergeert. Ons lichaam is opgebouwd uit fysische componenten, maar het is niet mogelijk om de essentie van leven in fysische wetten vast te leggen: het feit dat leven bestaat overstijgt op een bepaalde manier de fysica.”

Maar R&M komen al snel tot de conclusie dat een dergelijke benadering van bewustzijn - dat wil zeggen dat het in de basis niets anders is dan materie en energie - buitengewoon vreemde en ten diepste onverteerbare consequenties heeft (met nadruk):

“Maar snijdt deze gedachte eigenlijk wel hout? Laten we ons eens voorstellen wat het zou betekenen dat gedachtes terug te voeren zijn tot materie, wellicht tot een aantal met elkaar interacterende neuronen. Dat kan niet anders betekenen dan dat er tóch ergens een stukje materie bestaat dat een bepaalde gedachte representeert, een stukje materie dat die gedachte dan eigenlijk gewoon ís. … Als iemand denkt dat bewustzijn, wat dat ook precies moge zijn, uiteindelijk tot levenloze materie en fysische interacties is terug te voeren, dan zou er net als bij gedachtes ergens een stuk materie moeten zijn dat deze specifieke gedachte ook daadwerkelijk ís. Worden alle gedachtes dan in feite gerepresenteerd door hun ‘eigen’ stukje van de fysieke werkelijkheid?”

Dit is een echo van Patricia Churchland’s ‘van vlees naar denken’. Oftewel: hoe kunnen hersencellen, in complexe verbindingen met elkaar, tot gevolg hebben dat ik kleuren zie, bloemen (parfums!) ruik, een bewegende tennisbal met mijn racket serveer, enzovoort, enzovoort.

R&M laten zien, althans in beginsel, wat er ten diepste mis is met het reductionistische materialisme en de verklaringen die deze filosofie lijken te geven voor bewustzijn.

De auteurs missen echter de kans om de bal voor open doel in te koppen, dat wil zeggen bewustzijn binnen het paradigma van het reductionistische materialisme definitief af te serveren. Laat ik eens een poging wagen.

‘Onvoldoende’ materie

De idee dat een “stukje materie een gedachte ís” klinkt niet alleen bizar. Het is het ook. Het is categorische ‘wij-zijn-ons-brein’ apekool.

Dat materie ons intellect, ons bewustzijn, volledig zou kunnen vervatten is absolute en aantoonbare flauwekul.

Toevalligerwijs, nou ja toevallig, is de computer - hardware en software - de meest gangbare metafoor in bewustzijnsland en hoe het brein, als orgaan, bewustzijn voor elkaar zou spelen. Het AI-discours is daarvan niet meer dan een verlengstuk.

John Searle’s artikel Is the Brain a Digital Computer? (1990) schijnt het liefdevolle licht van de logica op dit knagende vraagstuk, dat alleen maar knaagt omdat we weigeren te kijken, we willens en wetens vergeten (geen verwijt aan R&M; integendeel).

De bekende filosoof laat zien dat een computer - die bestaat uit onder andere kunststof, silicium, metalen zodanig samengesteld dat het met behulp van elektriciteit rekenkundige operaties kan uitvoeren - nooit (als in: echt nooit) enige overeenkomst kán hebben met ons brein, ons bewustzijn, ons intellect.

R&M laten dat, interessant genoeg, al doorschemeren in hun discussie over oneindigheid - datgene waar mensen mee overweg kunnen en computers noodzakelijkerwijs niet - en we kunnen deze computermetafoor definitief naar het rijk der fabelen verbannen door op te merken dat (mijn vertaling; met nadruk):

“… rekenen (met een computer) een kwestie is van symbolen manipuleren volgens syntactische regels. Toch zijn symbolen en syntaxis geen intrinsieke eigenschappen van de fysieke wereld (de computer in dit geval), maar slechts waarnemer-relatieve kenmerken ervan. Iets geldt alleen als een symbool of als iets dat syntactische regels volgt voor zover wij er een dergelijke interpretatie aan toekennen. Maar in dát geval kan noch van de hersenen, noch van iets anders gezegd worden dat het intrinsiek een digitale computer is. …

Het resultaat van dit argument is dat het geen zin heeft om te proberen de menselijke geest te verklaren in termen van rekenen, omdat iets in de eerste plaats alleen als rekenen telt in relatie tot de menselijke geest. … het feitelijk uitvoeren van een algoritme veronderstelt intelligentie. Daarom kan een beroep op algoritmen en dergelijke zelfs geen deel uitmaken van de verklaring van intelligentie. De hedendaagse obsessie met computers als model voor de menselijke geest is een dwaalspoor.”

Edward Feser, in zijn Immortal Souls - A Treatise on Human Nature, vat het logische argument van Searle hier bondig en helder samen. Het moge duidelijk zijn dat Searle er geen doekjes om windt.

Wat Searle zegt is dit: materialen - papier, inkt, calciumcarbonaat (krijt), gesteente, hout, pixels op een beeldscherm - zijn van zichzelf, intrinsiek, geen dragers van welke betekenisvolle informatie dan ook.

Wij, mensen, kennen betekenis toe aan materie: letters, woorden en zinnen van inkttekens op papier, pixels op een beeldschermen, krijtstreepjes op een schoolbord, graveringen in steen of hout, enzovoort vormen samen een argument, een verhaal.

Meer dan dat: wij smeden woorden, zinnen, in welke materiële vorm dan ook, tot een coherent betekenisvol geheel en kunnen dat geheel op waarde schatten, de samenhang en overtuigingskracht daarvan beoordelen.

De uitsmijter: aangezien ons brein óók materie is kan die complexe bio-organische materie zélf op geen enkele manier iets van betekenisvolle overwegingen, gedachten, concepten enzovoort bevatten.

Laat dat even bezinken!

Bedenk hierbij: Searle’s argument is ongevoelig voor voortschrijdend inzicht in hoe hersenen elektrochemisch werken. Zijn argument is niet proefondervindelijk maar logisch.

Bijzonder dat slechts weinigen dit artikel van Searle kennen. Maar wellicht ook wel weer begrijpelijk: zo kunnen we blijven fabuleren over AI als ‘bewustwordende programmatuur in samenspel met een krachtige computer’.

En dan te bedenken dat Searle beslist niet de enige is die een dergelijk argument naar voren heeft gebracht.

Onze immateriële kant

Alleen van mensen, maar niet van hun brein, kan worden gezegd dat ze nadenkend of gedachteloos zijn. Van dieren, maar niet van hun hersenen (of delen daarvan) kan worden gezegd dat ze dingen zien of niet zien, horen of niet horen, ruiken of niet ruiken en proeven of niet proeven.

Van mensen, maar niet van hun brein, kan opgemerkt worden dat ze besluitvaardig of besluiteloos zijn.

Ik parafraseer hier M.R. Bennett en P.M.S. Hacker die in hun magistrale Philosophical Foundations of Neuroscience heel wat neurogebabbel weg bulldozeren. C.S. Lewis (in zijn De Futilitate) maakt in deze context een buitengewoon interessante observatie (mijn vertaling; met nadruk):

 “We zijn gedwongen te erkennen dat er tussen het denken van een aardse astronoom en het gedrag van materie op een afstand van enkele lichtjaren het specifieke verband bestaat die we waarheid noemen. Maar die waarheidsrelatie heeft geen enkele betekenis als we proberen deze connectie op het materiële niveau te plaatsen van de ster en van het brein van de astronoom. Het brein (van de astronoom) staat ongetwijfeld in diverse relaties tot de ster: een ruimtelijke relatie, een tijdsrelatie, een kwantitatieve relatie. Maar om nu te zeggen dat het ene stuk materie waar is met betrekking tot een ander stuk materie lijkt mij onzin.”

Wij, mensen, met ons intellect (gedachten en ratio), ons robuust zelfbewustzijn, onze intentionaliteit (onze gerichtheid op) overstijgen de materie waaruit wij bestaan. Het feit dat wij aantoonbaar van materie zijn gemaakt, maakt ons niet fundamenteel en definitief herleidbaar tot alleen diezelfde materie.

Kunnen we met al deze evidente logica (er is nog veel meer op dit vlak) dan tot de conclusie komen dat mensen ten dele immateriële wezens zijn? Mijn inziens wel. Sterker: discussies over AI bieden alle gelegenheid om ervan doordrongen te worden dat mensen bijzondere wezens zijn die veel meer zijn dan hun materie.

Hadden R&M die stap moeten zetten? Zeker! Hun vertoog over bewustzijn wordt gekenmerkt door een te grote voorzichtigheid die uiteindelijk de kracht van hun ontnuchterend bedoelde analyse (deels) ondermijnt.

Een diepgaander filosofische analyse had zeker geholpen, maar deze materie (pun intended) is niet gemakkelijk en roept veel academische weerstand op.

Ik acht beide heren meer dan in staat dit (vooral ideologische) verzet te weerstaan.

Wellicht biedt deze blogpost een aanzet voor deel 2: Gezond verstand is geen AI - Een logisch pleidooi(?) Een dergelijk boek lijkt mij geen overbodige luxe. AI wordt op een veel te hoog schild gehesen.