Tijdens een 50e jubileumvoorstelling van “2001: A Space Odyssey” vergeleek ik als wiskundige en informaticus, die onder meer onderzoek doet op het gebied van kunstmatige intelligentie, de toekomstvisie van het verhaal met de wereld van nu.
De film is gemaakt in samenwerking met sciencefictionschrijver Arthur C. Clarke en filmregisseur Stanley Kubrick, geïnspireerd door Clarke’s roman “Childhood’s End” en zijn minder bekende korte verhaal “The Sentinel.” Een opvallend werk van speculatieve fictie, het schetst – in termen soms hoopvol en andere keren waarschuwend – een toekomst van buitenaards contact, interplanetair reizen, bewuste machines en zelfs de volgende grote evolutionaire sprong van de mensheid.
De meest voor de hand liggende manier waarop 2018 is achtergebleven bij de visie van “2001” is in de ruimtevaart. Mensen bezoeken nog niet routinematig ruimtestations, brengen nog geen onopvallende bezoeken aan een van de vele maanbases, en reizen nog niet naar andere planeten. Maar Kubrick en Clarke raken de roos bij het verbeelden van de mogelijkheden, problemen en uitdagingen van de toekomst van de kunstmatige intelligentie.
Wat kunnen computers doen?
Een hoofddrama van de film kan in veel opzichten worden gezien als een strijd op leven en dood tussen mens en computer. De kunstmatige intelligentie van “2001” wordt belichaamd door HAL, de alwetende computationele aanwezigheid, het brein van het Discovery One-ruimteschip – en misschien wel het beroemdste personage van de film. HAL is het toppunt van computationele prestatie: een zelfbewust, schijnbaar onfeilbaar apparaat en een alomtegenwoordige aanwezigheid in het schip, die altijd luistert, altijd kijkt.
HAL is niet alleen een technologische assistent van de bemanning, maar – in de woorden van Dave Bowman, de commandant van de missie – het zesde bemanningslid. De mensen communiceren met HAL door tegen hem te praten, en hij antwoordt met een afgemeten mannelijke stem, ergens tussen strenge maar toegeeflijke ouder en goedbedoelende verpleegster. HAL is Alexa en Siri – maar dan veel beter. HAL heeft volledige controle over het schip en is ook, zo blijkt, het enige bemanningslid dat het ware doel van de missie kent.
Ethiek in de machine
De spanning van de derde akte van de film draait om Bowman en zijn bemanningslid Frank Poole die zich er steeds meer van bewust worden dat HAL niet goed functioneert, en HAL’s ontdekking van deze vermoedens. Dave en Frank willen de stekker uit een falende computer trekken, terwijl de zelfbewuste HAL wil blijven leven. Allen willen de missie voltooien.
De schaakpartij op leven en dood tussen de mensen en HAL is een voorbode van enkele van de vragen die vandaag de dag leven over het gebruik en de toepassing van kunstmatige intelligentie in het dagelijks leven van mensen.
In de eerste plaats is er de vraag hoeveel controle mensen moeten afstaan aan kunstmatig intelligente machines, ongeacht hoe “slim” de systemen mogen zijn. De controle van HAL over de Discovery is als een deep-space versie van het netwerkhuis van de toekomst of de auto zonder bestuurder. Burgers, beleidsmakers, deskundigen en onderzoekers zijn zich nog steeds aan het beraden over de mate waarin automatisering de mens kan – of moet – buitensluiten. Bij sommige overwegingen gaat het om betrekkelijk eenvoudige vragen over de betrouwbaarheid van machines, maar andere kwesties zijn subtieler.
De handelingen van een rekenmachine worden gedicteerd door beslissingen die door mensen zijn gecodeerd in algoritmen die de apparaten besturen. Algoritmen hebben over het algemeen een kwantificeerbaar doel, waarnaar elk van hun acties moet leiden – zoals het winnen van een spelletje dammen, schaken of Go. Net zoals een AI-systeem de posities van speelstukken op een bord analyseert, kan het ook de efficiency van een magazijn of het energieverbruik van een datacenter meten.
Maar wat gebeurt er als zich op weg naar het doel een moreel of ethisch dilemma voordoet? Voor de zelfbewuste HAL wint het voltooien van de missie – en in leven blijven – het van de levens van de bemanning. Hoe zit het met een bestuurderloze auto? Is de missie van een zelfrijdende auto bijvoorbeeld om een passagier zo snel mogelijk van de ene plaats naar de andere te brengen – of om te voorkomen dat voetgangers worden gedood? Wanneer iemand voor een autonoom voertuig stapt, botsen die doelen. Dat lijkt misschien een voor de hand liggende “keuze” om weg te programmeren, maar wat als de auto moet “kiezen” tussen twee verschillende scenario’s, die elk een menselijke dood tot gevolg zouden hebben?
Onder bewaking
In een klassieke scène gaan Dave en Frank naar een deel van het ruimtestation waar ze denken dat HAL hen niet kan horen om hun twijfels te bespreken over het functioneren van HAL en zijn vermogen om het schip te besturen en de missie te leiden. Ze opperen het idee om hem uit te schakelen. Ze weten niet dat HAL’s camera’s hen kunnen zien: De computer leest hun lippen door het pod-venster en komt zo achter hun plannen.
In de moderne wereld gebeurt een versie van die scène de hele dag, elke dag. De meesten van ons worden voortdurend in de gaten gehouden, door onze telefoons die bijna altijd aan staan of door het toezicht van bedrijven en overheden op hun activiteiten in de echte wereld en op internet. De grens tussen privé en openbaar is en blijft steeds vager worden.
De relaties tussen de personages in de film hebben me aan het denken gezet over hoe mensen en machines naast elkaar zouden kunnen bestaan, of zelfs samen zouden kunnen evolueren. Gedurende een groot deel van de film praten zelfs de mensen met elkaar op een flauwe manier, zonder veel toon of emotie – zoals zij met een machine zouden praten, of zoals een machine met hen zou praten. De beroemde sterfscène van HAL – waarin Dave methodisch zijn logische verbindingen verbreekt – deed me afvragen of intelligente machines ooit iets zullen krijgen dat gelijkwaardig is aan mensenrechten.
Clarke achtte het goed mogelijk dat de tijd van de mens op aarde slechts een “korte rustplaats” was en dat de rijping en evolutie van de soort de mens noodzakelijkerwijs tot ver buiten deze planeet zou brengen. “2001” eindigt optimistisch, met een mens die door de “Stargate” springt om de wedergeboorte van het ras te markeren. Om dit in werkelijkheid te doen, zullen de mensen moeten uitzoeken hoe ze het beste gebruik kunnen maken van de machines en apparaten die ze aan het bouwen zijn, en ervoor moeten zorgen dat we ons niet door die machines laten beheersen.