Asimov waarschuwde in de jaren veertig al voor kunstmatige intelligentie

Afgelopen maart ondertekenden 1100 techpromintenten en wetenschappers een open brief, waarin zij hun zorgen uitten over de snelle ontwikkelingen op het gebied van kunstmatige intelligentie. Ze pleitten voor een ontwikkelingspauze van minstens zes maanden om veiligheidsmaatregelen op te stellen.

De angst voor robots stak al de kop op toen kunstmatige intelligentie nog in de kinderschoenen stond. In 1950 publiceerde de Russisch-Amerikaanse schrijver Isaac Asimov de verhalenbundel I, Robot, die draait om de ‘drie wetten van robotica’ en de manier waarop deze wetten tot problemen kunnen leiden. Hij schetst een toekomst waarin de mens geen vat heeft op de intelligentie die hij zelf heeft ontwikkeld. Zijn boek laat niet alleen zien dat de vrees voor robots van alle tijden is, maar ook dat het niet eenvoudig is kunstmatige intelligentie met veiligheidsmaatregelen te beteugelen.

Isaac Asimov werd op 2 januari 1920 geboren als Isaak Judovitsj Ozimov in Petrovichi, Rusland. In 1923 verhuisden zijn ouders om politieke redenen naar de Verenigde Staten. Asimov groeide op in New York, waar hij twee grote interesses ontwikkelde: wetenschap en sciencefiction. Nadat hij in 1939 zijn bachelorsdiploma aan de Columbia-universiteit had behaald, publiceerde hij verschillende korte sciencefictionverhalen in het tijdschrift Astounding Science Fiction. Drie jaar later schreef hij zijn eerste robotverhalen.

Na de Tweede Wereldoorlog werd sciencefiction enorm populair, mede dankzij de snelle ontwikkelingen in de ruimtevaart. Asimovs verhalen waren dan ook succesvol en met het geld dat hij met schrijven verdiende, betaalde hij zijn verdere wetenschappelijke loopbaan. In 1949 promoveerde hij in de scheikunde en in 1955 werd hij universitair hoofddocent. Toch begon het in 1958 weer te knagen: hij trok zich terug uit de wetenschap om zich volledig aan schrijven te wijden.

Asimovs echtgenote, Getrude Blugerman, vroeg haar man eens of hij geen spijt zou krijgen als hij aan het eind van zijn leven honderd boeken zou hebben geschreven, maar ondertussen was vergeten te leven. Voor Asimov was het antwoord simpel: ‘Slechts honderd boeken?’ Deze uitspraak – die hij opnam in het voorwoord van zijn honderdste boek Opus 100 – is illustratief. Hij produceerde uiteindelijk meer dan vijfhonderd boeken – soms zelfs één per maand – waarmee hij diverse prijzen won.

In literaire kringen werd Asimov regelmatig bekritiseerd om zijn ‘gebrek aan stijl’, maar hij verdedigde zich door te stellen dat zijn stijl ‘duidelijkheid’ is. ‘En dat was ook zo,’ aldus James Gun in het artikel ‘Asimov at 100’: ‘Zijn vermogen om moeilijke wetenschappelijke ideeën in eenvoudige taal te formuleren, is sindsdien niet geëvenaard.’ 

I, Robot (1950) is een verzameling korte verhalen die zich afspelen in 2015 en die elk draaien om de omgang tussen mens en robot. Asimov voorspelt een toekomst waarin robots zo slim zijn, dat de mens maatregelen moet treffen om op een vruchtbare en veilige manier met hen samen te leven. Deze computers worden geprogrammeerd vanuit de ‘robotica’, een term die hij bedacht voor de studie naar kunstmatige intelligentie en die nog steeds wordt gebruikt. Volgens Asimov moet die studie drie fundamentele gedragsregels hanteren: de wetten van robotica.

Deze wetten dienden om mens én robot te beschermen. Ze luiden: (1) Een robot mag een mens geen letsel toebrengen, of door nietsdoen een mens schade toebrengen. (2) Een robot moet de bevelen van mensen gehoorzamen, behalve wanneer dergelijke bevelen in strijd zijn met de eerste wet. (3) Een robot moet zijn eigen bestaan beschermen zolang die bescherming niet in strijd is met de eerste en tweede Wet.

Maar in I, Robot blijken de wetten geen sleutel tot succes. Asimov laat daarin zien hoe de regels tot problemen kunnen leiden, met als bekendste voorbeeld het korte verhaal Runaround, dat hij schreef in oktober 1941. In dit verhaal zijn de wetenschappers Gregory Powell en Mike Donovan op missie naar Mercurius. Ze worden door ‘fotocelbanken’ beschermd tegen de dodelijke zonnestralen. Om deze fotocelbanken te laten functioneren hebben ze selenium nodig, dat alleen met gevaar voor eigen leven te verkrijgen is. Gelukkig kunnen Powell en Donovan een beroep doen op robot Speedy.

Speedy wordt naar de seleniumpoel op Mercurius gestuurd, maar wanneer hij deze bereikt, cirkelt hij er eindeloos omheen. Speedy’s hapering wordt de wetenschappers bijna fataal. Uiteindelijk blijkt dat er een giftig gas uit de seleniumpoel lekt, dat schadelijk is voor het metaal waar Speedy van gemaakt is. De derde wet dwingt Speedy om zich terug te trekken, terwijl de tweede wet hem dwingt bevelen van de wetenschappers op te volgen. Door dit conflict blijft Speedy eindeloos rondcirkelen, waardoor hij Powell en Donovan juist in gevaar brengt.

Runaround is niet alleen bedoeld als vermakelijk en spannend verhaal; Asimov wil laten zien dat er situaties denkbaar zijn waarin de wetten feilbaar zijn. Hij suggereert dat geen enkele programmering kan anticiperen op alle mogelijke situaties en vreest dat kunstmatige intelligentie een ontembare technologie wordt.

In navolging van Asimov waarschuwden in 1968 ook schrijver Arthur C. Clarke en regisseur Stanley Kubrick in het boek en de film 2001. A Space Odyssey voor kunstmatige intelligentie die autonome beslissingen neemt. In het verhaal wordt een Amerikaans ruimtevaartuig volledig aangestuurd door de computer HAL 9000. De technologie lijkt de astronauten te helpen, maar de computer volgt liever zijn eigen missie. Vanwege zijn hoge intelligentie weet HAL 9000 de mens zo te misleiden dat hij zijn eigen plan kan voortzetten – ten koste van de astronauten. 

Asimov wordt nog steeds geprezen om zijn verbluffende inzichten en heeft grote invloed gehad. Wetenschappers hebben geprobeerd nieuwe en betere wetten van robotica te formuleren. Ook spelen zijn wetten een rol in de zogenoemde ‘machine-ethiek’. Dit onderzoeksgebied probeert moreel gedrag toe te voegen aan kunstmatige intelligentie. De term ‘machine-ethiek’ werd voor het eerst gedefinieerd in 1978 het artikel ‘A Question of Responsibility’ door Mitchell Waldrop. Hij vindt dat de morele waarden van robots moeten worden geformuleerd. ‘We hebben in feite een theorie en praktijk van machine-ethiek nodig, in de geest van Asimovs drie wetten van de robotica.’

Maar als robots straks zijn uitgerust met een moreel kompas en emotie kunnen tonen, komt er wellicht een ander probleem om de hoek kijken. In het boek Do Androids Dream of Electric Sheep (de inspiratie voor Ridley Scotts beroemde film Blade Runner) uit 1968 van Philip K. Dick, krijgt bounty hunter Rick Deckard de opdracht robots te ‘elimineren’ die in hun gedrag niet van mensen te onderscheiden zijn. Deckard worstelt gedurende het verhaal met de morele kant van zijn opdracht. Hij voelt sympathie voor de robots en lijdt onder de zware taak de tegenstribbelende robots te elimineren. 

Het dilemma dat Asimov en andere sciencefictionschrijvers na hem wilden aankaarten is actueel: hoe geavanceerder robots worden, hoe meer macht de mens lijkt te verliezen. Tachtig jaar na Asimov heeft de wetenschap nog steeds geen regels gevonden waarmee robots op een duurzame manier beperkt kunnen worden in hun doen en laten. De grote vraag is dan ook of een pauze van zes maanden wél genoeg is om de nodige veiligheidsmaatregelen op te stellen.