Boeken door generatieve AI geschreven zijn leeg van betekenis, middelmatig en herhalend

Met een beetje aandacht is een niet door een mens maar door kunstmatige intelligentie (AI) geschreven boek te herkennen. AI-boeken worden verkocht via online boekhandels zoals Amazon en Bol.com. Weekblad De Groene Amsterdammer ontdekte dat ruim 1 op de 25 boeken die op Bol.com worden aangeboden door AI – Artificial Intelligence – gegenereerd is^*):
«Met behulp van zelfontwikkelde software analyseerden we nieuwe boektitels in ruim tachtig genres die worden verkocht op de populairste online boekhandel van Nederland. In totaal ontdekten we meer dan 6500 aangeboden titels die grotendeels of volledig door kunstmatige intelligentie zijn geschreven. Ze zijn stukken goedkoper, richten zich op specifieke niches en staan geregeld bovenaan in de zoekresultaten. Het gros is Engelstalig, maar ook in het Nederlands vonden we honderden AI-titels. In sommige categorieën, zoals Engelstalige zelfhulpboeken, is inmiddels ruim een op de zeven recent aangeboden titels neergepend door een chatbot. De oordelen zijn vernietigend: ‘NIET KOPEN, is een kat in de zak!’
( … )
Wie bekend is met de schrijfstijl, herkent het meteen: dit boek is niet door een mens, maar door kunstmatige intelligentie geschreven. Een openingszin met ‘Welcome to’, het herhaaldelijk gebruik van het Engelse ‘delve’, de overvloed aan uitbundige bijvoeglijke naamwoorden – ‘unimaginable’, ‘profound’, ‘pivotal’, ‘extraordinary’, ‘captivating’ – aan al deze kenmerken wordt alleen al op de eerste pagina voldaan.
( … )
Veel tekst blijkt leeg van betekenis, slecht geschreven en herhalend. Of met zo’n sterke voorkeur voor gemeenplaatsen dat het ongemakkelijk botst met het onderwerp».

AI-Media Journaal

Nele Goutier schrijft in AI-Media Journaal – de nieuwsbrief over AI van het tijdschrift voor journalistiek Villamedia – hoe door AI-geschreven middelmatigheid de boekenmarkt betreedt en waarom klokkenluiders nodig zijn:
«Dat soort boeken staat vaak vol vreemde uitspraken. Een boek over Anne Frank eindigt met: ‘Nu komen we aan het eind van onze reis door Anne Franks opmerkelijke leven’. En een boek over misbruik in de katholieke Kerk besluit: ‘Een van de belangrijkste lessen [..] van de misbruikcrisis is het cruciale belang van transparantie en verantwoordelijkheid’. Op zijn zachtst gezegd opmerkelijk. Toch staan AI-geschreven boeken opvallend vaak bovenaan in het zoekaanbod, want generatieve AI houdt desgevraagd natuurlijk rekening met SEO».

2023 is het jaar van de doorbraak van ‘generatieve’ AI genoemd, Kunstmatige intelligentie ontworpen om nieuwe inhoud te genereren in de vorm van geschreven tekst, audio, afbeeldingen of video’s. Nieuwe AI-programma’s als ChatGPT, DALL-E en MidJourney deden hun intrede. In een oogwenk kunnen ze afbeeldingen en teksten genereren.
Uit de analyse van De Groene Amsterdammer blijkt dat eind 2022, kort na de introductie van ChatGPT, minder dan één procent van de boeken automatisch gegenereerd was. Inmiddels is dat percentage gestegen tot 4,2, ruim één op de 25 boeken. Zeker sinds de introductie van GPT-4 begin 2023 is de stroom aan AI-boeken nauwelijks meer te stoppen, met elke maand honderden nieuwe titels.

Klokkenluiders

AI-Media Journaal meldt dat verschillende (voormalig) werknemers van de Amerikaanse onderneming OpenAI aan de bel trokken sinds het bedrijf het volledige team voor verantwoorde AI eind mei 2024 opdoekte. Twee opgestapte boardmembers van OpenAI waarschuwen dat we niet kunnen vertrouwen op zelfregulatie van het bedrijf. Zij vinden wetgeving hard nodig. Een groep van negen (ex-)medewerkers van OpenAI noemt het bedrijf in dagblad The New York Times bovendien ‘roekeloos’. Op  Busines Insider beschrijven ze een cultuur van valse beloften rondom veiligheid, waarin de race om marktdominantie allesoverheersend is.
Een iets grotere groep, met ook (ex-)werknemers van Google DeepMind en Anthropic, roepen in een Open brief op tot ‘a right to warn’. (Ex-)werknemers van AI-bedrijven die zich kritisch uitlaten over AI verdienen volgens de briefschrijvers bescherming. Want alleen zij hebben zicht op de technische werking van modellen en de effectiviteit van veiligheidsmaatregelen. Dat soort informatie is essentieel en bijzonder schaars. De ondertekenaars van de Open brief  doen een oproep aan AI-bedrijven zich te houden aan vier principes. Lees de hele brief op Right to warn: https://righttowarn.ai/

De actiegroep Non Of Your Business (NOYB) diende tot nu toe elf bezwaren in bij privacywaakhonden van de Europese Unie. https://noyb.eu/nl?lang=de&page=4

Wijziging gebruiksvoorwaarden

In 2023 begon The New York Times een rechtszaak tegen OpenAI en Microsoft vanwege het ongevraagd gebruik van miljoenen artikelen in AI-trainingssets. De strijd speelt ook op individueel niveau: Facebook en Instagram hebben al aangekondigd gegevens van particulieren te gaan gebruiken om hun AI-modellen te trainen. Wie dat niet wil, kan hiertegen bezwaar aantekenen. Of dat werkt? Adobe is eveneens bezig toegang te krijgen tot particuliere bestanden. Een wijziging in de gebruiksvoorwaarden zorgt voor ophef op sociale media. Wie de nieuwe voorwaarden accepteert, stemt ermee in dat bestanden op Adobe-servers potentieel worden gebruikt voor machine-learning en AI. Het lijkt vooralsnog te gaan om Amerikaanse voorwaarden. Een kunstenaar twitterde wanhopig na een mislukte poging tot communicatie met Adobe: “I can’t use Photoshop unless I’m okay with you having full access to anything I create with it, INCLUDING NDA work?
( … ) Also, hilarious that I can’t even get ahold of your support chat to question this unless I agree to these terms beforehand. I can’t even uninstall Photoshop unless I agree to these terms?? Are you fucking kidding me??” Het commentaar daarop van een andere twitteraar luidt: “Wait until you learn that it also covers them saving a copy of all PhotoShop and Audition projects, as well as all PDFs viewed in Acrobat”.

Tips

AI-MediaJournaal biedt tot slot slimme kijkjes in de blackbox van AI. Een lijst van programma’s en tools die je bijvoorbeeld laten zien hoe generatieve AI-modellen werken, dat je hoogdravende koppen als AI now beates humans on basic tasks, met een korrel zout moet nemen en dat we tools niet klakkeloos moeten inzetten op de werkvloer.
En wie belangstlling heeft voor de basis van datajournalistiek is er de gratis online cursus van Media Numeric Academy (Stichting Beeld & Geluid en InHolland). In acht modules leer je data verzamelen, analyseren en in pakkende verhalen gieten. Speciaal gericht op mensen in creatieve beroepen.

De nieuwsbrief besluit met Tooltips, waaronder de Rolli Information Tracer (International Center For Journalists) waarmee je (des)informatiestromen op sociale media kan volgen. En voor wie behoefte heeft aan een chatbot, maar bezorgd is wat er met de eigen inputdata gebeurt, is er Llama File, een eigen, lokale versie van een Large Language Model (LLM). Een ideale oplossing voor particulieren en bedrijven die hun spreadsheetprocessen willen stroomlijnen is GPT Excel.

Uitkijken naar de mens

Begin april 2024 is prof. dr. Esther Keymolen benoemd tot hoogleraar Regulering digitale technologie aan de Universiteit va Tilburg. Keymolen hield op 19 april 2024 haar oratie, getiteld Technological times: Looking out for the human, gericht op ethische en filosofische vragen over technologie-regulering.
Pim van der Beek van Computable schreef in zijn artikel AI vraagt om een ander mensbeeld en een exit-strategie over de benoeming en oratie van Esther Keymolen aan het slot:
«Positief mensbeeld – De oplossing is volgens Keymolen om, in navolging van de filosoof Helmuth Plessner, de mens niet te zien als iemand die tekortschiet als het gaat om digitale technologie, maar als een creatief, dynamisch persoon die in verbinding staat met de omgeving. Volgens dit positieve mensbeeld is de mens voortdurend bezig het leven vorm te geven, vaak met technologie, en is daar nooit klaar mee. ‘Het is deze veranderlijkheid die de mens kenmerkt en die regulering dient te beschermen’, stelt ze. ‘Daarom moeten we niet alleen investeren in het afstemmen van de technologie op de mens, wat nog steeds essentieel is maar nooit perfect. Ook moeten we oplossingen bedenken voor wanneer het mis gaat, alternatieven regelen, voorzien in checks and balances, en exit strategieën bedenken.’ Volgens haar is een pluralistische aanpak nodig. ‘Pas als we de onvoorspelbaarheid van de mens koesteren, zal de technologie ons dienen’».

Noot
*) Onderzoeksverantwoording van De Groene Amsterdammer staat op de website: www.groene.nl/artikel/verantwoording-bij-het-onderzoek-naar-ai-boeken-op-bol

Referenties

Slecht geschreven! Niet kopen! door Eva Hofman en Joris Veerbeek, De Groene Amsterdammer, 5 juni 2024: www.groene.nl/artikel/slecht-geschreven-niet-kopen

1 op de 25 boeken op Bol.com is geschreven door AI en dat zorgt voor gekkigheid. AI-Media Journaal, nieuwsbrief over AI van Villamedia, 8 juni 2024: https://villamedia.substack.com/p/1-op-de-25-boeken-op-bolcom-is-geschreven

It’s all unraveling at OpenAI (again), door Madeline Berg, Business Insider, 4 juni 2024: www.businessinsider.nl

OpenAI employees are demanding change. Here are the 4 things they want, door Jordan Hart, Business Insider, 4 juni 2024: www.businessinsider.com

Moederbedrijf van Facebook wil jouw persoonlijke berichten en privéafbeeldingen gebruiken om AI te trainen, Villamedia, 6 juni 2024: www.villamedia.nl/artikel/moederbedrijf-van-facebook-wil-jouw-persoonlijke-berichten-en-priveafbeeldingen-gebruiken-om-ai-te-trainen

AI Media journaal: https://villamedia.substack.com/

Esther Keymolen benoemd tot hoogleraar Regulering digitale technologie, Tilburg University, 1 april 2024: www.tilburguniversity.edu

‘Ai vraagt om ander mensbeeld en exit-strategie‘, door Pim van der Beek, Computable, 18 april 2-24: www.computable.nl/2024/04/18/ai-vraagt-om-ander-mensbeeld-en-exit-strategie/

Kunnen mensheid en AI succesrijk naast elkaar bestaan? Wordt AI onbeheersbaar slim? Blogs Beroepseer, 8 april 2024:  https://beroepseer.nl

Actiegroep Non of your busines: https://noyb.eu/

Open brief ‘A right to warn’: https://righttowarn.ai/