Dag lezer, Bent u al op hallucinaties door AI gestoten, waarbij de algoritmes plots erg bizarre informatie spuwen? Alsof ChatGPT en consoorten eigenhandig iets bijeenfantaseren. Dat sterkt de indruk dat AI ‘een soort bewustzijn’ heeft, want dat is toch nodig om te fantaseren? Maar dat klopt niet. “We beschouwen AI-modellen maar beter als tekstspuwers”, schrijven Emily Bender en Alex Hanna in The AI Con.
Ondertussen valt een wereldvermaarde wetenschapper van zijn voetstuk omdat hij in zijn werk te veel bijeenfantaseerde: de Britse neuroloog Oliver Sacks, die tien jaar geleden overleed en beroemd werd met verhalen over zijn patiënten met neurologische aandoeningen. Door hun persoonlijke ervaringen centraal te stellen en hen in zijn bestsellers neer te zetten als innemende individuen met een rijke innerlijke wereld, pleitte hij voor meer empathie en begrip.
Maar nu blijkt dat een deel van zijn meeslepende gevalsstudies niet volledig op feiten berustte en dat wat we vroeger in zijn werken lazen als medisch inzicht, geen strikte observaties waren, maar verzonnen anekdotes.
De onthullingen in The New Yorker zijn een waarschuwing over hoe wetenschappelijke verhalen gebaseerd op onderzoek en bewijs kunnen transformeren tot fabeltjes wanneer de wetenschapper in kwestie iets te veel wil, zoals bijvoorbeeld begrip en ontroering opwekken voor zijn patiënten. Blijkbaar vergat Sacks daarbij ook dat een ‘straf’ medisch verhaal de verbeelding en beeldvorming bij het publiek prikkelt en dat dat gevolgen heeft voor hoe we met patiënten omgaan.
Zeker als het gaat over menselijk lijden, zoals bij Sacks, snakken we natuurlijk naar verhalen die betekenis geven aan onze wanhoop en verwarring. Daarom is het goed dat het Belgische Raadgevend Comité voor de Bio-Ethiek in zijn nieuwe advies over euthanasie bij dementie ook pleit voor een publiekscampagne over die aandoening. Velen hebben er een te eenzijdig gitzwart beeld over, waardoor angst voor mentale aftakeling verlammend kan zijn.
In het hart van het nieuwe advies schuilt een heel speciale vorm van ‘verbeelding’: mensen met dementie die vooraf in een wilsverklaring vastleggen in welke situatie zij euthanasie zouden willen, zouden die dan ook moeten kunnen krijgen. En dat betekent dat zij zich, wanneer ze nog wilsbekwaam zijn, zeer goed moeten kunnen inbeelden welke exacte situaties, gedragingen en gebeurtenissen voor hen het teken zouden zijn dat ze liever zouden vertrekken. Het is de bedoeling dat zij dat met behulp van experts zo duidelijk mogelijk neerschrijven, zodat artsen en familie later, wanneer de ziekte hun helderheid van geest heeft weggegomd, zo goed mogelijk kunnen inschatten of die drempels nu bereikt zijn.
Wetenschappers hebben natuurlijk wel een zekere mate van verbeelding nodig om de werkelijkheid steeds verregaander te onderzoeken: ‘zotte’ vragen als ‘zou dit medicijn ook voor die totaal andere ziekte kunnen werken?’ kunnen de start zijn van een doorbraak. Maar het is natuurlijk absoluut niet de bedoeling dat fantasieën de onderzoeksresultaten en conclusies kleuren.
Wat uit het wetenschappelijk onderzoek komt, moet vaak net onterechte fantasieën bijwerken. Galileo Galileis observatie dat de aarde rond de zon cirkelt en niet omgekeerd, is misschien het beroemdste voorbeeld. Een veel recenter voorbeeld: de wetenschap laat zien dat prehistorische vrouwen niet alleen verzamelaars waren, maar ook belangrijke jagers op groot wild, wat het oude idee van ‘de man als jager’ in twijfel trekt.
Het kan ook omgekeerd: de wetenschap die ontdekt dat wat als verzinsels wordt beschouwd toch klopt. Archeologen in Pompeï hebben nu ontdekt dat er wellicht torens in de Italiaanse stad stonden, een idee dat jarenlang is weggezet als ‘een artistieke fantasie’ die enkel op muurschilderingen te zien was. In recent pas opgegraven ruïnes van Pompeï stond een gigantische stenen trap die schijnbaar nergens heen leidde. Nu blijken de treden deel te zijn van een imposante toren.
Je kunnen inbeelden wat de impact van je wetenschappelijke toepassing zal zijn op de toekomst, is al even essentieel als feiten en fantasie scheiden in de wetenschap. Zo waarschuwen wetenschappers voor plannen om met grootschalige weerspiegeling van het zonlicht de opwarming van de aarde tijdelijk af te blokken. Omdat de effectiviteit en risico’s van de technologie “hoogst onzeker” zijn, pleiten de experts voor een moratorium op het gebruik van dat soort ‘geo-engineering’ en op grootschalige experimenten. Het zonlicht afweren kan onder andere leiden tot regionale klimaatverstoringen, en tot een problematische ‘termination shock’ wanneer de interventie stopt.
Dat de werkelijkheid vandaag voortdurend onze gekste fantasieën overtreft, blijkt nu opnieuw in de wereld van de biowetenschappen. Artificiële intelligentie maakt het niet alleen makkelijker om medische doorbraken te forceren, maar ook om biologische wapens te maken. Onderzoekers ontdekten dat taalmodellen suggesties kunnen doen die de eerste stappen richting een biologisch wapen beschrijven, en dat cloud labs experimenten laagdrempeliger maken voor wie toegang heeft, ook buiten traditionele instituties. In een conversatie met studenten stelden chatbots vier virussen voor die een pandemie zouden kunnen veroorzaken. Ze legden uit hoe het genetisch materiaal voor die virussen gesynthetiseerd kan worden, en suggereerden bedrijven waar de studenten daarvoor zouden kunnen aankloppen. En dat alles binnen het uur.
In het debat over de rol van AI in ons leven en onze samenlevingen gaat het nu dus ook vaak over de vraag of deze ‘machines’ ooit bewustzijn kunnen krijgen en echte, menselijke gevoelens kunnen hebben. Onze gok is van niet. Zo kunnen wij ons alvast niet inbeelden dat een hallucinerend AI-programma dat ons blaasjes wijsmaakt zich nadien schuldig voelt en spijt heeft. Dat is wat Oliver Sacks wel voelde. In de dagboeknotities waarin hij noteerde dat sommige gaven die hij zijn patiënten toedichtte “pure fabricaties” waren, heeft hij het over “leugens”, “vervalsingen” en zijn persoonlijke “schuld” die steeds zwaarder woog.
Fantasierijke groeten,
De wetenschapsredactie PS: Deze nieuwsbrief wordt binnenkort een nieuwsbrief exclusief voor abonnees van De Morgen. Heeft u geen abonnement? Sluit er nu een af met een speciale korting. | 
Geen opmerkingen:
Een reactie posten