“We moeten voorkomen dat kunstmatige intelligentie de controle krijgt over onze toekomst”. Het advies – of de waarschuwing – is afkomstig van Stuart Russell, gastspreker van de Reith Lectures*), uitgezonden op BBC Radio 4 in december 2021. De Reith Lectures is een jaarlijkse door de Engelse BBC georganiseerde serie van vier lezingen die gegeven worden door vakkundige, prominente personen. Elke lezing vindt plaats in een andere stad en wordt bijgewoond door publiek dat na afloop vragen kan stellen. Russell gaf de lezingen in resp. het Alan Turing Instituut in de British Library in Londen, Manchester University, Edinburgh University en het National Innovation Centre for Data in Newcastle.
De in Portsmouth, Engeland, geboren Stuart Russell (1962) is oprichter van het Center for Human-Compatible Artificial Intelligence aan de Universiteit van Californië, Berkeley. De lezingenserie – Living with Artificial Intelligence – is onderverdeeld in:
- The biggest event in human history
- AI in warfare
- AI in economy
- AI: A future for humans
Het blijkt dat er mensen zijn die geïrriteerd raken, of ronduit kwaad worden, als ze geconfronteerd worden met kritiek op ‘kunstmatige intelligentie’, ‘artificial intelligence’ ( AI) of algoritmen. Dat is te begrijpen als het ontwikkelen van kunstmatige intelligentiesystemen je beroep is en je het beste met de mensen voor hebt. De meeste ontwikkelaars geven aan vervuld te zijn van oprechte idealen.
Maar toch… Russell belicht voor zijn toehoorders alle hoeken van kunstmatige intelligentie. Zijn eerste lezing heeft hij de titel meegegeven: De grootste gebeurtenis in de geschiedenis van de mensheid.
In deze lezing staat hij stil bij het ontstaan van AI, en voert hij ons terug naar de Griekse filosoof Aristoteles. Hij geeft een definitie van AI, de successen en mislukkingen ervan, en de risico’s die AI voor de toekomst inhoudt.
Aan de hand van films en andere culturele uitingen over AI onderzoekt Russell of de angst die wij voor AI hebben enige grond heeft. Hij legt uit waarom hij, net als een eerdere gastspreker van de Reith Lectures, Stephen Hawking, van menig is dat “succes de grootste gebeurtenis in de geschiedenis van de mensheid zou zijn… en misschien wel de laatste gebeurtenis in de geschiedenis van de mensheid”.
Russell stelt de vraag hoe dit risico kan ontstaan en of het kan worden vermeden, zodat de mensheid en AI succesrijk naast elkaar kunnen bestaan.
De toekomst
De vierde lezing gaat over AI en de toekomst van de mensheid. Russel begint zijn lezing zo:
“Degenen onder u die de serie volgen, herinneren zich misschien dat ik u aan het eind van de eerste lezing achterliet met een cliffhanger. Het tafereel dat ik beschreef ging over een bus met passagiers die naar de rand van een klif rijdt. Die klif is het verlies van controle over steeds intelligentere machines, zoals voorspeld door Alan Turing in 1951, toen hij zei: ‘Als de machine eenmaal begonnen is met denken, zal het niet lang duren voordat onze zwakke krachten worden overtroffen. Op een bepaald moment kunnen we dus verwachten dat de machines de controle overnemen’. De snelheid van de bus wordt voor een deel veroorzaakt door de potentieel enorme voordelen van AI voor algemeen gebruik. Dat wil zeggen, machines die snel leren goed te presteren op het gebied van taken die mensen kunnen uitvoeren.
In de eerste lezing gaf ik een zeer ruwe, lage schatting van de contante waarde van AI voor algemeen gebruik: tien quadriljoen pond. Zo’n bedrag zorgt voor veel dynamiek.
Ik noemde ook een paar redenen die diverse ‘sceptici’ hebben gegeven om er geen aandacht aan te schenken. Eén die ik niet noemde is misschien wel het slechtste excuus van allemaal: sommige AI onderzoekers – degenen die al zeventig jaar volhouden tegen de neezeggers dat AI mogelijk is – zeggen nu dat we ons geen zorgen hoeven te maken omdat we geen AI voor algemeen gebruik zullen realiseren.
Dat klinkt als de buschauffeur die in snelle vaart naar de rand van de afgrond rijdt en roept: ‘Maakt u geen zorgen, maakt u geen zorgen, de benzine is op voor we er zijn’.”
De reactie van Russel hierop is: “Zo gaan we niet om met zaken die de mensheid betreffen”.
Doemdenken
Russell wijst op het vele doemdenken in de huidige tijd. Over het klimaat en de politiek, maar vooral ook over de voorspellingen over AI. Russell:
“Een paar jaar geleden kreeg ik een telefoontje van een filmregisseur die me als adviseur vroeg voor een nieuwe film over superintelligente AI. Ook hij klaagde over doemdeken en dus zou het mijn taak zijn uit te leggen hoe de menselijke hoofdrolspelers in de film de superintelligente AI te slim af konden zijn en de mensheid redden. ‘Sorry, dat kunnen ze niet’, reageerde ik. En zo eindigde mijn filmcarrière”.
Een deel van het doemdenken wegnemen ziet Russell als zijn taak. Door goed uit te leggen hoe wij als mensen de macht en de controle voor altijd kunnen behouden over entiteiten die machtiger zijn dan wijzelf. Entiteiten die we niet te slim af kunnen zijn. Russell noemt dat het ‘controlevraagstuk’.
Op dat vraagstuk is gewezen door Norbert Wiener, de grondlegger van de cybernetica. Hij zei in 1960: “Als we, om onze doelen te bereiken, een mechanisch medium gebruiken waarbij we moeilijk kunnen interveniëren, dan kunnen we er maar beter zeker van zijn dat het doel dat we in de machine hebben gestopt, een doel is dat we echt willen”.
En daar zit volgens Russell de moeilijkheid. Als we het verkeerde doel in een superintelligente machine stoppen, veroorzaken we een conflict dat we niet kunnen beheersen. De machine stopt voor niets en niemand om het vastgestelde doel te bereiken.
Een voorbeeld van een conferentie, gewijd aan klimaatverandering, illustreert dat:
Men vraagt op de conferentie om hulp voor het ontzuren van de oceanen. Men kent de valkuilen van het verkeerd specificeren van doelstellingen, dus dringt men erop aan dat de bijproducten niet giftig mogen zijn en dat geen enkele vis schade mag worden berokkend. Het AI-systeem komt met een nieuwe, zichzelf vermenigvuldigende katalysator die met een zeer snelle chemische reactie de klus zal klaren. Geweldig. Maar de reactie verbruikt een kwart van alle zuurstof in de atmosfeer en we sterven allemaal een langzame en pijnlijke dood. Vanuit het oogpunt van het AI-systeem is het elimineren van mensen een functionaliteit, geen fout, omdat deze ervoor zorgt dat de oceanen intact blijven.
Volgens Russell is er dus weinig kans dat we volledig en correct een volmaakte doelstelling kunnen bepalen. Een die ertoe doet. Dat wil zeggen, een ranglijst van alle menselijke toekomstmogelijkheden.
Een andere manier van denken
Wat we nodig hebben is een andere manier van denken. Russell vertelt dat hij zo’n andere manier ontdekte in Parijs, in 2013 tijdens een sabbatical. Een groot deel van zijn tijd bracht hij daar door met nadenken over deze kwestie. Hij zong in Parijs ook als amateur-tenor in een koor van het Orchestre Lamoureux: “Op een avond zat ik in de metro op weg naar de repetitie en luisterde via mijn koptelefoon naar het stuk dat ik aan het oefenen was, het Agnus Dei van Samuel Barber. ‘Dit is zo subliem’, dacht ik bij mezelf, en, zoals men soms doet in Parijs, dacht ik ‘Leef in het moment’, zelfs als men de rest van de tijd in Parijs denkt ‘wat een frustrerend en vernederend moment is dit’.”
Maar dan, zoals zo vaak gebeurt, het moment werd voor Russell bedorven door zijn dagelijkse taken en hij vroeg zich af hoe een AI-systeem ooit kon weten waar dit soort momenten vandaan komen, sublieme, frustrerende of vernederende momenten: “Toen schoot me te binnen: We moeten AI-systemen bouwen die weten dat ze het echte doel niet weten, ook al moeten ze het nastreven”.
Deze manier van denken zou de kwestie van controle en beheersing kunnen oplossen.
De drie principes
De volgende dagen, deels uit respect voor de drie wetten van de robotica van de Amerikaanse science-fiction-schrijver Isaac Asimov, schreef Russel zijn ideeën op in de vorm van drie principes:
Principe 1: Het enige doel van de machine is het maximaliseren van de realisatie van menselijke voorkeuren.
Principe 2. De machine is aanvankelijk onzeker over wat die voorkeuren zijn. Dit is de kern van de nieuwe benadering: wij verwijderen de valse veronderstelling dat de machine een vast doel nastreeft dat volledig bekend is. Dit principe is wat ons controle geeft.
Principe 3: De ultieme bron van informatie over menselijke voorkeuren is menselijk gedrag.
‘Gedrag’ betekent hier alles wat we doen, met inbegrip van alles wat we zeggen, maar ook alles wat we niet doen, zoals je e-mail niet lezen tijdens colleges. Het omvat ook alles wat geschreven is over gebeurtenissen omdat het meeste van wat we schrijven gaat over mensen die dingen doen – en andere mensen die daar boos over zijn.
De tovenaarsleerling
Russell vertelt in zijn lezingen hoe wij mensen onze toekomstige nieuwe robot-‘overlords’ in het gareel kunnen houden. AI kan alle aspecten van ons leven beïnvloeden, en doet dat al: politieke conflicten, economie, het zakenleven, klimaat en leefomgeving. Kunstmatige intelligentie kan de macht overnemen. Het is dan ook van belang voorzichtig te zijn met computercodering. We zijn nog ver verwijderd van het nauwkeurig ontwerpen van algoritme-sjablonen.
Misschien is het een goed idee af en toe het verhaal van de tovenaarsleerling in de herinnering te brengen. Het verhaal begint met de oude tovenaar die zijn werkplaats verlaat. Zijn leerling blijft achter en is verzocht enkele taken te verrichten. Hem is ook op het hard gedrukt beslist niet op eigen houtje te gaan toveren. De leerling wordt al gauw moe van het eentonige werk dat hij moet doen, water halen voor het schrobben van de vloer. Hij denkt dat hij het wel kan en betovert een bezem om het werk voor hem te doen. De leerling is evenwel nog niet volleerd en kan de bezem niet in bedwang houden. Al gauw ligt de vloer helemaal onder water. De leerling realiseert zich dat hij machteloos is en de bezem niet tot stilstand kan brengen, omdat hij de toverspreuk daarvoor niet kent. Wanhopig probeert de leerling de bezem kapot te slaan met een bijl, maar nu zijn er twee bezems die doorgaan met emmers water halen, sneller, steeds sneller. Als de hele werkplaats verzwolgen dreigt te worden door al het water komt de oude tovenaar terug en breekt hij de betovering.
De moraal van het verhaal ligt er dik bovenop. Enige zelfkennis, voorzichtigheid en bescheidenheid kunnen veel ellende voorkomen.
De lezingen van Stuart Russell zijn opgenomen en terug te luisteren op de website van de BBC. De lezingen kunnen ook als transcriptie en als podcast worden gedownload: Stuart Russell – Living with Artificial Intelligence, The Reith Lectures, december 2021: https://www.bbc.co.uk/programmes/m001216k/episodes/guide
Noot
*) De Reith Lectures werden voor het eerst door de BBC uitgezonden in 1948. De bedoeling was het publiek meer inzicht te geven in belangrijke actuele kwesties door toonaangevende sprekers. Tot de sprekers uit het verleden behoren de filosoof Bertrand Russell, de ‘vader van de atoombom’ Robert Oppenheimer en pianist en dirigent Daniel Barenboim.
De Reith Lectures zijn genoemd naar Lord John Reith (1889-1971), de eerste algemeen-directeur van de BBC. Lord Reith was van mening dat de omroep een openbare dienst moest zijn ter verrijking van het intellectuele en culturele leven van de natie.
Zie ook: Opgave AI. De nieuwe systeemtechnologie, WRR, 11 november 2021: www.wrr.nl/publicaties/rapporten/2021/11/11/opgave-ai-de-nieuwe-systeemtechnologie
U P D A T E
Column: Grenzen aan AI, door Nick Kivits, Villamedia, 5 april 2023:www.villamedia.nl/artikel/grenzen-aan-ai
Journalisten, eindredacteuren, vertalers, (creatieve) schrijvers, pr-medewerkers, maar ook analisten, wiskundigen, webdesigners, accountants en belastingadviseurs. Allemaal kunnen ze in de toekomst bij het UWV aankloppen voor een ww-uitkering, omdat kunstmatige intelligentie (AI) hun werk van ze overneemt.
WRR-delegatie op bezoek bij de Vlaamse minister-president.
Het bezoek vond plaats in kader van het nieuwste WRR-rapport (nr. 105) Opgave AI. De nieuw systeemtechnologie en de mogelijk op te richten Vlaamse Wetenschappelijke Toekomstraad (VWT).
Wetenschappelijke Raad voor het Regeringsbeleid, 8 februari 2022: www.wrr.nl/actueel/nieuws/2022/02/08/wrr-delegatie-op-bezoek-bij-de-vlaamse-minister-president
Afbeelding bovenaan is van Markus Spiske
Meer en beter opgeleide studenten kiezen voor de wijk. Interview met onderwijskundige Margriet van Iersel, door Gonny ten Haaf, eindredactie ZonMw, januari 2022: 
