🦷🦷🦷 De onttovering van AI (Walburgpers, non-fictie)

R. Meester – hoogleraar kansberekening – en M. Jacobs – datawetenschapper – bieden een ontnuchterende kijk op AI. In hun boek De onttovering van AI uit 2024 stellen zij dat generatieve AI niet meer is dan geavanceerde kansberekening, zonder enig verband met menselijk logisch denken of bewustzijn. Het idee dat AI ons zal overschaduwen bestempelen zij als een hoax aangewakkerd door de Big Tech. Mensen zullen altijd beschikken over unieke eigenschappen zoals intuïtie, zintuiglijke ervaringen en gezond verstand. Met deze drie, niet kunstmatig na te bootsen eigenschappen, behouden we de eindverantwoordelijkheid over ons leven op aarde.

Titel: De onttovering van AI (2024)
Auteur: Ronald Meester en Marc Jacobs
Achtergrond: R. Meester is hoogleraar waarschijnlijkheidsrekening aan de VU, M. Jacobs is datawetenschapper en statistisch consultant.
Beoordeling:   🦷🦷🦷
Genre:  boek (non-fictie)
Kanaal: www.walburgpers.nl

De kern van de zaak is dus een verstandige omgang met AI

Het slothoofdstuk van ‘Onttovering van AI’ is verrassend, zeker van auteurs die werkzaam zijn in de harde data-wetenschap. Inzake onze gewenste houding ten opzichte van de nieuwe AI-technologie gaan zij te raden bij oude bijbelse teksten, door hen zelf omschreven als ‘wijsheidsliteratuur’. De christelijke traditie stelt dat de mens de opdracht heeft om over de aarde te heersen en haar te beheren. We zijn geen eigenaren van de aarde, maar door God aangestelde rentmeesters. Zonder dit te letterlijk te nemen, benadrukken de auteurs dat we de aarde moeten beschermen – ook tegen onszelf.

Deze visie op rentmeesterschap sluit aan bij de bredere boodschap van het boek: de noodzaak van een evenwichtige en verantwoordelijke benadering van AI-technologie. Door deze analogie te trekken, benadrukken de auteurs dat de mensheid niet alleen de macht heeft om AI te ontwikkelen, maar ook de plicht om dit op een ethische en duurzame manier te doen. De mens blijft inzake AI aan zet.
Tenzij men blijft geloven in een extreme vorm van reductionisme, waarbij het leven en de aarde uitsluitend worden gezien als een verzameling wetten en patronen beschreven door natuurkunde en scheikunde. Hoewel cijfers, modellen en algoritmes indrukwekkend zijn, achten zij het onwaarschijnlijk dat de mens een systeem kan ontwikkelen dat werkelijk zelfstandig denkt en handelt. Zolang mensen de controle behouden over de technologie, dragen zij ook de eindverantwoordelijkheid – zelfs wanneer AI wordt geprogrammeerd om zelfstandig acties te ondernemen met mogelijk negatieve gevolgen. Een algoritme kan wel schade veroorzaken, maar heeft geen kwade bedoelingen. De kern van de zaak is dus een verstandige omgang met AI.

Marlin zegt: 3 tanden

🦷🦷🦷

Jacobs en Meester ontmaskeren haarfijn de claims van commerciële Big Tech-bedrijven over het bereiken van AGI (Artificial General Intelligence) – de gevreesde situatie waarbij AI-technologie de mens zou overtreffen. In hun poging tot demystificatie van AGI putten ze uit verschillende disciplines: wiskunde, filosofie, gezond verstand en geschiedenis. Ze wijzen erop dat de angst voor machines (ooit op mijn blog beschreven in de posting over de poepende eend) van alle tijden is. De mythe van technologische vooruitgang die sowieso meerwaarde oplevert, verblindt ons elke keer weer.
Centraal in hun argumentatie staat het het werk van techniekfilosoof Friedrich Jünger (1898-1977), die zich begin vorige eeuw bezighield met de economische en sociale gevolgen van mechanisering. Jünger stelt dat het vervangen van mensen door machines alleen maar meer nadeel heeft opgeleverd voor de samenleving. Ook de economische meerwaarde bleef uit. In die zin is het effect van bijvoorbeeld de invoering van de lopende band in de Ford-fabriek – die wel tot hogere productiviteit maar niet tot kostenefficiëntie leidde – goed vergelijkbaar met de gevolgen van de digitalisering in de 21ste eeuw, 100 jaar later.
ChatGPT en AI vergen enorme rekenkracht, datatraining en energie, terwijl de impact op werkgelegenheid en milieu groot is. De auteurs betogen dat de sociaal-economische meerwaarde van AI tot nu toe heel beperkt is. Ook deze technische innovatie leidt niet tot een ‘betere’ samenleving. Misschien tot meer welvaart maar zeker geen meer welzijn. Vergelijkbaar met de Industriële Revolutie in de 19e eeuw verschuift arbeid dankzij AI naar de organisatie van de techniek. Ze werd in de 20e eeuw de arbeider die typemachines in de fabriek produceerde, medewerker receptie bij een bedrijf dat tekstverwerkingssoftware produceert. Techniek zet mensen op afstand van de wereld.
Niettemin blijven de AI start-ups groeien, opgestuwd door durfkapitaal. Dus we krijgen hoe dan ook met AI te maken. Daarom pleiten de auteurs voor een verstandige omgang met AI-technologie, met aandacht voor ethiek en de maatschappelijke impact.
We verwerven al tientallen jaren kennis en overtuigingen via het Internet. Kennisverwerving blijft inherent subjectief. Voor de komst van het internet vormden we onze mening door het lezen van kranten, het kijken naar tv-programma’s en gesprekken met anderen, waarbij we onze opvattingen bevestigd of bijgesteld zien. Bij het exclusief raadplegen van ChatGPT ontbreekt echter de mogelijkheid om de herkomst van informatie of meningen te verifiëren. De output wordt gegenereerd door een ondoorzichtig algoritme, waarbij willekeur, toeval en statistische principes een rol spelen. Hierdoor mist de inhoud van ChatGPT een authentieke basis.
Wat is dan verstandig gebruik van AI? Er zijn twee routes naar verantwoordelijkheid: 1. weiger dat bedrijven je smartphone mogen tracken (via de ‘acceptatie’-knop leveren we enorme hoeveelheden data waarmee Big Tech hun algoritmes traint) en 2. neem deel aan debat – laat je horen. Gebruikers, bedrijven en overheid moeten in gesprek gaan over wat we wel en niet willen dat AI met ons doet
Omdat AI en nieuwe toepassingen zich in 2024 zo opdringen, is het noodzakelijk om levensbeschouwelijke kwesties niet uit de weg te gaan. Als mens moet je je verhouden tot de machine. Dit kan alleen door een levensbeschouwelijke overdenking waarbij je de positie van de mens in de wereld bepaalt en afbakent: Auteurs hebben in hoofdstuk 8 een lijst met van 10 aandachtspunten opgesteld die iedereen bij het gebruik van een AI-toepassing zou kunnen checken. Het zijn gewetensvragen. In hoofdstuk 9 staan een aantal interessante cases waarbij deze punten worden toegepast op beroepsgroepen: AI en de arts, de docent, de politieagent, de taxateur, de kunstenaar, de programmeur, de rechter, het bestuur, de ouder en de relatie.
Als voorbeeld ‘AI en de arts’. Stel dat een arts 300 afbeeldingen van tumoren moet beoordelen op ernst, maar de afbeeldingen eerst laat rangschikken door een AI-algoritme van zeer ernstig tot minder ernstig zal de arts niet meer onbevoordeeld naar de afbeeldingen kunnen kijken. De eerste afbeeldingen (verwachting van zeer ernstig) zal hij met verhoogde aandacht en verwachting interpreteren. Bij de laatste reeks is hij ook bevooroordeeld (minder ernstig) wat zal leiden tot vals-negatieven. De door het algoritme geleverde voorkennis beïnvloedt dus de waarneming van de arts. Het is dus de vraag of de 300 afbeeldingen niet door een mens beoordeeld had moeten worden.

Ethan Mollick schetst in zijn boek Co-Intelligence vier mogelijke scenario’s voor de toekomst van AI:

Wat betekent AGI nu echt?

De gigantische investeringen in rekenkracht laten zien hoe serieus de tech-industrie de mogelijkheid van superintelligentie neemt. Maar de implicaties reiken veel verder dan alleen technologische vooruitgang:

1. Existentieel risico: Als we erin slagen een superintelligentie te creëren, zijn we er dan klaar voor?
2. Maatschappelijke impact: Hoe zal een superintelligentie de arbeidsmarkt beïnvloeden? Kunnen we een maatschappij vormgeven waarin mensen nog een zinvolle rol hebben naast een alwetende AI?
3. Ethische dilemma’s: Wie controleert de superintelligentie? Hoe voorkomen we misbruik door kwaadwillenden?
4. Ongelijkheid: Zal de ontwikkeling van superintelligentie de kloof tussen arm en rijk verder vergroten? Wie profiteert er uiteindelijk van deze technologie?
5. Filosofische vragen: Wat betekent het om een mens te zijn in een wereld met superintelligentie? Hoe verandert onze perceptie van bewustzijn en intelligentie?

Deze vragen tonen aan dat we ons niet alleen moeten focussen op de technologische uitdagingen, maar ook op de maatschappelijke voorbereiding op een mogelijke superintelligentie. Zijn we als mensheid wel klaar voor zo’n revolutionaire ontwikkeling?

Vier toekomstscenario’s

Het is belangrijk om op te merken dat zelfs als deze investeringen niet direct leiden tot superintelligentie, ze niet voor niets zijn. Ethan Mollick schetst in zijn boek Co-Intelligence vier mogelijke scenario’s voor de toekomst van AI:

1. Statische wereld: Dit is het minst waarschijnlijke scenario, waarin de huidige AI de beste is die we ooit zullen hebben. Zelfs in dit geval is de huidige AI al revolutionair in veel sectoren.
2. Lineaire groei: AI blijft gestaag verbeteren, wat al significante voordelen oplevert voor verschillende industrieën.
3. Exponentiële groei: Dit is wat we momenteel zien, met AI-capaciteiten die elke vijf tot negen maanden verdubbelen. Dit is veel sneller dan de bekende wet van Moore voor computerchips.
4. Kunstmatige superintelligentie (ASI): Het ultieme doel van veel AI-bedrijven, waarbij machines slimmer worden dan mensen op vrijwel alle gebieden.

Waarde van huidige investeringen

Mollick benadrukt dat zelfs zonder ASI de huidige AI-ontwikkelingen al een enorme impact hebben. ‘Zelfs als de ontwikkeling van AI nu zou stoppen, hebben we nog zeker tien jaar aan verbeteringen en toepassingen voor ons die disruptief zullen zijn voor verschillende industrieën,’ stelt hij.

Dit perspectief herinnert ons eraan dat de huidige investeringen, zelfs als ze niet direct tot superintelligentie leiden, al waardevolle vruchten afwerpen. De AI die we vandaag gebruiken, is hoogstwaarschijnlijk de ‘slechtste’ die we ooit zullen gebruiken – en zelfs die is al revolutionair op veel gebieden.

Tegelijkertijd moeten we waakzaam blijven voor de potentiële risico’s en ethische implicaties van verdere AI-ontwikkeling. Zoals Mollick opmerkt: ‘We krijgen de kans om te beslissen hoe deze technologie wordt gebruikt.’ Het is aan ons om ervoor te zorgen dat de ontwikkeling van AI ten goede komt aan de hele mensheid, ongeacht welk scenario werkelijkheid wordt.