Menselijke Domheid

Pieter Wisse

Iemand, die wat hij ziet niet snapt, reageert meestal als volgt. Het waargenomen verschijnsel krijgt bovennatuurlijke krachten toegedicht. Met de indruk die sommige computerprogramma's op vele mensen maken, gaat het helaas niet anders. De ondeskundige toeschouwer roept vaak iets in de trant van kunstmatige intelligentie. Zo'n reactie wijst echter vooral op menselijke domheid. Want de geveinsde bewondering maskeert het eigen onvermogen. Via een beetje meer interesse en menselijke intelligentie had zo'n toeschouwer kunnen n moeten begrijpen dat de werking van het getoonde programma volkomen gedetermineerd verloopt. In dit verband is de geschiedenis van ELIZA illustratief.

In het midden van de jaren zestig bouwde Joseph Weizenbaum een programma voor onderzoek naar conversaties tussen mens en computer. Omdat een gesprek ergens over moet gaan, bracht hij twee zgn niveaus in zijn programma aan. Het eerste verzorgde in het algemeen de grammaticale aspecten, terwijl hij op het tweede niveau een specifiek script kon activeren. Zo'n script bevatte de informatie inclusief logische regels om het 'ergens' over te hebben.

Weizenbaum gaf zijn programmatuur de naam ELIZA. Dit deed hij naar analogie van een figuur uit Shaw's roman Pygmalion (later ook: de musical My Fair Lady). Weliswaar leerde die Eliza Doolittle steeds beter (lees: beschaafder) spreken, maar de lezer/toeschouwer mocht gerede twijfel behouden of zij ook intelligenter werd. Precies zo dacht Weizenbaum over zijn programma. Hijzelf wist dat het volkomen gedetermineerd werkte.

Om zo simpel mogelijk te beginnen, baseerde Weizenbaum het eerste script op de zgn. non-directieve psychotherapie. Dat blijft simpel omdat zo'n therapeut vooral de opmerkingen van zijn client spiegelt. Zo van, stel dat de mens in de ingetikte zin ergens het woord 'moeder' plaatst. Dan antwoordt ELIZA simpel met "kunt u iets mr over uw moeder vertellen?" Met andere woorden, een dergelijk script vergt weinig, neen, eigenlijk totaal gn kennis van de wereld. Er zit dus niets geheimzinnigs aan de werking van het programma. Het verloopt, nogmaals, volkomen gedetermineerd. Enig begrip van wat bijvoorbeeld een moeder is, ontbeert het programma helemaal. Het kaatst domweg een woord terug (waarbij het programma evenmin begrijpt wat een woord is).

ELIZA werd gauw een klassieker. In de literatuur staat het talloze malen genoemd. Weizenbaum raakte echter geschokt door de reacties op zijn programma. Vele mensen die ermee in aanraking kwamen, kenden totaal andere eigenschappen aan ELIZA toe dan dat Weizenbaum wist dat zijn programma bezat. Menig psychiater zag het programma als therapeutisch wondermiddel. En mensen drukten inderdaad hun innerlijkste roerselen via het toetsenbord uit. En beweerden dat de computer hen zo goed begreep. Zij hadden een goed gevoel over het gesprek met de machine, net alsof de machine ... een mens was ... maar dan menselijker. Voorts beschouwden vroege werkers aan kunstmatige intelligentie ELIZA als de oplossing voor het probleem van machinale behandeling van natuurlijke taal.

Het enthousiaste gejuich van de gelovigen liet zich niet overstemmen, zelfs niet dempen. Dat is helaas niets nieuws. Weizenbaum wijdde daarom twee jaar aan nadere studie en het schrijven van een boek. Het resultaat is het prachtige Computer Power and Human Reason. Daarin beschrijft hij ELIZA zlf nog maar eens. Dat boek verscheen in 1976, maar is actueler is dan ooit. Dat het nog altijd actueel is, is overigens ernstig. Het probleem met zo'n principieel boek is uiteraard dat wie nodig overtuigd moet worden, het niet wil en dus niet kan begrijpen. En dat, wie het goed snapt, reeds overtuigd was. Daardoor verandert er weinig.

Van iedereen die met (informatie)technologie omgaat, vraagt Weizenbaum dat hij zijn onvervreemdbare, eigen menselijke verantwoordelijkheid beseft n daarnaar handelt. Ook ELIZA is niet het anthropomorfe schepsel dat velen er in zien. Het is gewoon een dom computerprogramma. Een mens is pas dom wanneer hij zo'n machine slim vindt. Zulke menselijke domheid is een obstakel voor ethiek. Vele technocraten lijden aan een dergelijk gebrek.

Ik vrees dat het gedachtengoed van Weizenbaum nog altijd jammerlijk onbekend is. Zijn er niet mr gelovige technocraatjes dan ooit, allemaal bezig met pogingen tot ontsluiting van menslijke intelligentie op onmenselijke grondslag? Ik ontmoet heus ook wel mensen die met gevoel over de betrekkelijke positie van techniek praten, maar wat zijn het er in verhouding weinig! Niet voor niets geeft Weizenbaum een hoofdstuk de titel "against the imperialism of instrumental reason" mee en zegt daarin onder andere dat "... there is all the difference between deciding and choosing." Hij bedoelt dat technocraten met berekeningen in de waan van juiste beslissingen kunnen raken. Dat is de instrumentele rede. Het komt echter fundamenteel op waarden aan. Drop baseren mensen altijd hun keuzes, of zij zich dat nu realiseren of niet. Aan waarden valt niets te rekenen, en dus kunnen machines nooit menselijke keuzes maken. Dat moeten mensen zelfs niet van machines wllen.

Het boek van Weizenbaum is beslist een bestseller in de zin dat er ooit een enorm aantal van verkocht is. Overigens bestaat er, meen ik, ook een nederlandstalige uitgave van. Waar ik echter zo benieuwd naar ben, is hoeveel mensen het daadwerkelijk gelezen en liefst ook bestudeerd hebben. Kijkt u alstublieft eens in uw boekenkast. Ik beken dat ik het ook pas kort geleden goed gelezen heb.

 

1994, webeditie 2001.
Eerder verschenen in: Informatie, jaargang 36, 1994, nr 9.