“Kunstmatige intelligentie is niet slim, en ook niet kunstmatig”. Wat is het dan wel? “Kunstmatige intelligentie is een wereld van onzichtbare arbeid en verborgen maatschappelijke kosten, maar ook een wereld waarin je de ultieme werkflow kunt ervaren. Welk soort samenleving faciliteren we met klikwerk en wie plukken daar de vruchten van?” Vragen van Siri Beerends waarop ze antwoorden geeft in haar artikel in tijdschrift Vrij Nederland: Hoe klikwerkers AI mogelijk maken.
Siri Beerends is cultuursocioloog en doet promotie-onderzoek naar authenticiteit en kunstmatige (on)intelligentie aan de Universiteit Twente.
Volgens haar laten we ons betoveren door KI1). Maar KI is niet magisch, en al helemaal niet slim en kunstmatig. Het is een goocheltruc.
Beerends: “Als er een award zou bestaan voor woorden die ons op het verkeerde been zetten, dan zou kunstmatige intelligentie een goede kandidaat zijn. Computers zijn uitzonderlijk goed in rekenen en patroonherkenning, maar daarmee bereik je geen intelligentie. Bewustzijn, intentionaliteit, redenerend vermogen, empathie, verbeeldingskracht, zintuiglijke waarneming en intuïtie zijn belangrijke aspecten van intelligentie die computers missen. Daardoor kunnen computersystemen op bovenmenselijke niveau schaken en Go spelen, maar komen ze qua vermogen om intuïtief hun omgeving te begrijpen niet eens in de buurt van een peuter.
Kunstmatige intelligentie is niet alleen niet slim, maar ook nog eens niet kunstmatig. De grondstoffen die nodig zijn om een AI-systeem te bouwen, zijn levensecht, net als de talloze klikwerkers2) die de systemen ontwikkelen, trainen en draaiende moeten houden. Toen Amazon faalde in het bouwen van een AI-systeem dat zelfstandig dubbelingen in productpagina’s moest detecteren, moesten ze mensen inhuren. Hoe geavanceerd hun systeem ook was, voor de last mile bleven ze afhankelijk van verfijnd menselijk ingrijpen, oftewel: intelligentie. Hieruit werd Amazon Mechanical Turk3) geboren: ’s werelds grootste online klikwerkplatform. Bedrijven, universiteiten en ontwikkelaars kunnen er tegen lage tarieven klikwerkers betalen om hun AI-systemen te trainen en draaiende te houden.
Want onze computersystemen worden niet vanzelf competent. Daar zijn klikwerkers voor nodig die informatie checken, labelen of omzetten, bijvoorbeeld van analoog naar digitaal of van impliciet naar expliciet.
Er bestaan zelfs bedrijven die klikwerkers betalen om hen te laten doen alsof ze een AI-systeem zijn. Zo kwam aan het licht dat de digitale assistent van startup x.ai niet zelfstandig agenda’s beheerde, vragen beantwoordde en meetings inplande, maar dat een team van klikwerkers dat deed. Kunstenaar Astra Taylor moemt dit verschijnsel fauxtomation”.
Ethische kanten
Beerends schrijft dat er de laatste jaren meer aandacht is voor de ethische kanten van klikwerk. Ze wijst op het boek Ghost work. How to stop Silicon Valley from building a new global underclass uit 2019, geschreven door antropologe Mary L. Gray en computerwetenschapper Siddharth Suri.
Een van de commentaren op het boek luidt: :
“Als je denkt dat je weet wat er gaande is op het gebied van digitale arbeid, denk dan nog eens na. Dit baanbrekende boek zal het debat over technologie en de toekomst van arbeid zeker opnieuw aanzwengelen. Gebaseerd op uitgebreide etnografie en enquêtes, is Ghost work een must read voor iedereen die zich bekommert om een humane toekomst voor degenen onder ons die moeten werken voor de kost”.
Een ander commentaar:
“Ghost work schetst een wereld waarin onzichtbare legers online-arbeiders worden ingehuurd, belast, gecontroleerd, betaald en vaak ontslagen door machines. Zo’n omgeving zou spannende, dystopische science-fiction kunnen opleveren, ware het niet dat Mary Gray en Siddharth Suri het heden beschrijven!”
Sociaal-cultureel verval
In Atlas of AI, power, politics, and the planetary costs of artificial intelligence (2021) laat Kate Crawford zien welke verborgen kosten kunstmatige intelligentie met zich meebrengt. Het boek is, volgens John Thornhill van de Financial Times een waardevolle correctie op de hype die AI momenteel is en een nuttige handleiding voor de toekomst.
Siri Beerends in VN: “Door AI te verpakken als ‘innovatie’ hebben we geen oog voor de ecologische kosten en het sociaal-culturele verval dat gepaard gaat met toenemende automatisering. In plaats van vooruitgang, laat Crawford zien, betekent AI juist een stap terug naar de klassieke arbeidsuitbuiting uit 1890. Ze beschrijft hoe we, verblind door de belofte dat we via klikwerk alle vervelende taken aan computers kunnen uitbesteden, niet merken dat we in dat proces zelf in robots aan het veranderen zijn”.
Technohypnose
Beerends noemt nog een boek dat gaat over automatisering en maatschappelijk-cultureel verval, Nihilism and Technology van de Amerikaan Nolen Gertz, universitair docent toegepaste wijsbegeerte aan Universiteit Twente. In zijn in 2018 verschenen boek richt Gertz zich voornamelijk op het snijvlak van politieke filosofie, existentiële fenomenologie en de filosofie van technologie: “Geautomatiseerde informatiestromen die ons eigen gelijk bevestigen, dating-algoritmen die onze matches maken: het zijn allemaal manieren om zelf minder keuzen te hoeven maken en ongemak, morele verantwoordelijkheid en confrontaties uit de weg te gaan. Volgens Gertz streven we naar een status van verlaagd bewustzijn die ons helpt om aan de ongemakkelijke fysieke realiteit te ontsnappen. Technohypnose noemt hij dat”.
Nihilism and Technology begint met een inleiding in de filosofie van het nihilisme, die uitmondt in het nihilisme van de Duitse filosoof en cultuurcriticus Friedrich Nietzsche (1844 – 1900) als basis van het boek. Gertz beschouwt nihilisme als een manier om aspecten van het dagelijks leven te begrijpen. Zijn boek is een krachtige analyse van hoe de menselijk-technosociale wereld steeds nihilistischer wordt: technologieën, met name informatietechnologieën, zijn onze belangrijkste methode geworden om ons af te leiden van het verlies van betekenis in ons leven, dat volgens Nietzsche het gevolg is van de triomf van het nihilisme.
Kijken naar het leven als een probleem
Bij Gertz gaat het om de manieren waarop onze waarden fungeren als middel tussen ontwerp en gebruik van technologieën. Hij onthult hoe wij verstrengeld zijn geraakt met onze technologieën waardoor er een wereld is ontstaan van technohypnose, datagestuurde activiteiten, pret-economie, kudde-netwerken en klikorgiën. De gevaren van technologie komen niet voort uit existentiële risico’s, maar uit de dagelijkse trend naar de nihilistische relatie tussen mens en technologie.
De alomtegenwoordigheid van smartphones leidt ertoe dat we steeds minder vertrouwen op menselijke interactie en steeds meer op smartphone-interactie. Dat wil zeggen dat we de weg niet meer vragen aan een mens maar aan de online kaartendienst van Google. Google Maps presenteert zich als het vullen van een leegte, maar creëert deze leegte ook zelf.
Gertz: “Technologieën helpen ons niet alleen problemen op te lossen, maar laten ons ook naar het leven kijken als een probleem”.
Bepaald zorgelijk vindt Gertz dat we moderne technologie laten zoeken naar therapeutische methoden om lijden – en daarmee de werkelijkheid – te vermijden in plaats van onszelf onder ogen te zien. De grote veranderingen die we momenteel meemaken zijn overigens niet geheel nieuw, merkt hij op. Ze zijn de koortsige versnelling van de Nietzscheaanse negentiende eeuwse nihilistische tendenzen, waarvan het opvallendste moderne voorbeeld de filosofie van Silicon Valley is: het transhumanisme4).
Transhumanisme
Dat transhumanisme is dus niet zo nieuw als we denken. Gertz raadt aan een keer te gaan luisteren naar wat men zoal te berde brengt in een Genius Bar5). Dan zal men toegeven dat het allemaal niet zo ultra-hip en paradigmaverschuivend is als de voorstanders van het transhumanisme ons willen doen geloven.
Het transhumanisme streeft naar overstijging van de biologische beperkingen en restricties van de mensheid d.m.v. technologische ingrepen. Maar volgens Gertz trappen de transhumanisten met hun technologische post-mens als beoogd doel, nog steeds in de val waarover Nietzsche het had. Hoewel we nu over betere wetenschap en technologie beschikken, zitten we nog steeds diep vast in dezelfde copingstrategieën6) – manieren om een probleem aan te pakken. In sommige opzichten zijn deze trends zelfs versterkt.
Achter de façade van een radicale techno-fix7), proberen de transhumanisten met behulp van technologie een probleem op te lossen dat vaak ontstaan is door eerdere technologische ingrepen.
AI en fundamentele rechten
Eind 2020 publiceerde het in Wenen gevestigde Bureau van de Europese Unie voor de grondrechten het rapport Getting the future right – Artificial intelligence and fundamental rights. Een paar maanden later verscheen er een samenvatting in het Nederlands: Op het juiste pad voor de toekomst. Artificiële intelligentie en de grondrechten.
Het rapport bevat concrete voorbeelden van de manier waarop ondernemingen en overheidsinstanties in de EU Artificiële Intelligentie gebruiken of proberen te gebruiken. Het verslag richt zich op vier kerngebieden: sociale voorzieningen,
voorspellend politiewerk, gezondheidsdiensten en gerichte reclame. In dit verslag komen de mogelijke gevolgen voor de grondrechten aan bod en wordt geanalyseerd hoe rekening wordt gehouden met dergelijke rechten bij het gebruik of de ontwikkeling van AI-toepassingen.
In het rapport staat:
“Bij het gebruik van AI-systemen zijn vele verschillende grondrechten betrokken, ongeacht het toepassingsgebied. Dit zijn onder meer, maar niet uitsluitend, privacy, gegevensbescherming, non-discriminatie en toegang tot de rechter”.
Laten we het vooral niet vergeten.
Referenties
Hoe klikwerkers AI mogelijk maken, door Siri Beerends, Vrij Nederland, no 10, 2021. Op de site van VN is de titel Klikkerdeklik: de goocheltruc die we kunstmatige intelligentie noemen (16 oktober 2021), door Siri Beerends: www.vn.nl/goocheltruc-kunstmatige-intelligentie/
Website Siri Beerends: www.siribeerends.nl
Nihilism and Technology, door Nolen Gertz, Rowman & Littlefield, 2018: https://rowman.com/ISBN/9781786607034/Nihilism-and-Technology
Zie ook: Platformisering, algoritmisering en sociale bescherming, Sociaalrechtelijke uitdagingen in tijden van digitale transformatie, door prof. mr. Mijke Houwerzijl, mr. dr. Saskia Montebovi, mr. dr. Nuna Zekic, W (Red.), Wolters Kluwer, okober 2021: https://shop.wolterskluwer.nl/Platformisering-algoritmisering-en-sociale-bescherming-sNPWEALSOB/#pdp-extracts
Nolen Gertz: Do digital technologies make us more nihilistic? Video, 2 oktober 2018: www.youtube.com/watch?v=3LgQJmbFESs
Nihilism and Technology, Reviewed by John P. Sullins, Notre Dame Philosophical Reviews, 26 juli 2019: https://ndpr.nd.edu/reviews/nihilism-and-technology/
Getting the future right. Artificial intelligence and fundamental rights, European Union Agency for Fundamental Rights, december 2020:
https://fra.europa.eu/sites/default/files/fra_uploads/fra-2020-artificial-intelligence_en.pdf
Op het juiste pad voor de toekomst. Artificiële intelligentie en de grondrechten – Samenvatting, Bureau van de Europese Unie voor de grondrechten, 2021: https://fra.europa.eu/sites/default/files/fra_uploads/fra-2021-artificial-intelligence-summary_nl.pdf
Lees ook het artikel in Vrij Nederland: Vriendschap met een chatbot. Sociaal junkfood, door Tom Grosfeld, no 10, 2021. Op de site van VN getiteld: Mijn beste vriend is een chatbot: ‘Een robot laat je niet in de steek’: https://www.vn.nl/beste-vriend-chatbot/
Een passage daaruit: “Uit onderzoek van psychologe Jean Twenge blijkt dat jongeren geboren na 1995, de zogeheten IGen, de eerste generatie die opgroeide met smartphones en sociale media, het steeds enger vinden om met echte mensen, face-to-face, te interacteren. Ze houden van minder opdringerige en confronterende manieren van communicatie.
Noten
1) KI = Kunstmatige intelligentie. AI = Artificial Intelligence/Artificiële Intelligentie
2) Klikwerkers. Zie video Wat is clickwork? Uitgelegd in één minuut: ww.youtube.com/watch?v=xkuls01e3LY
3) De naam Turk is in dit verband ontleend aan de Mechanische Turk, een schaakmachine ontworpen in 1770 door de Hongaarse uitvinder Wolfgang van Kempelen. De machine bleek een goocheltruc te zijn.
4) Aanhangers van het transhumanisme beweren dat de mens is beland in het post-Darwin tijdperk en zijn evolutie in eigen hand kan gaan nemen. Transhumanisme probeert om de door de natuur gestelde grenzen van het menselijke bestaan te doorbreken.
5) De Genius Bar is een gratis dienst, aangeboden door Apple Inc om het gebruik van zijn producten en diensten te ondersteunen. Het is een face-to-face technisch ondersteuningscentrum in de Apple-winkels.
6) Psychologen noemen de manier waarop men geneigd is om om te gaan met stressvolle omstandigheden en tegenslagen, copingstijl. Afgeleid van het Engelse begrip to cope with = ‘kunnen omgaan met of opgewassen zijn tegen’.
7) Met techno-fix of technological fix/technical fix wordt bedoeld dat bij de oplossing van een bepaald probleem bovenal aan techniek of technologie wordt gedacht.
Afbeelding bovenaan is van Mohamed Hassan
Het eerste essay gaat over innovatiewetenschap en de betekenis van onzekerheid voor publieke professionals. Daarna volgt een verzameling van manieren van omgaan met een onzekere toekomst en een reflectie van wetenschappers, kunstenaars en ontwerpers. De gids stimuleert zelf aan de slag te gaan en zelf na te denken over de eigen werkzaamheden, met al zijn grillen en onverwachte wendingen. Zowel individueel als in teamverband.
