Geesteswetenschappers over ChatGPT en de morele kwesties van AI
ChatGPT. De afgelopen weken had iedereen het over de chatrobot die zelf teksten kan genereren. Unieke teksten, moeilijk van ‘echt’ te onderscheiden. Het is een voorbeeld van kunstmatige intelligentie, ook artificiële intelligentie (AI) genoemd. AI roept niet alleen technische, maar ook morele vragen op: hoe zal het onze economie beïnvloeden? Kan AI helpen bij het oplossen van problemen in onze samenleving en hoe dan? Maar ook: wat is de impact van AI op menselijke autonomie? Hiernaar doen verschillende geesteswetenschappers onderzoek.
Verantwoorde kunstmatige intelligentie
Een van hen is hoogleraar Filosofie Jan Broersen. Met een achtergrond in wiskunde, logica en computerwetenschappen onderzoekt hij filosofische vragen die AI opwerpt. Bijvoorbeeld hoe op logica gebaseerde methoden van modellering kunnen helpen bij het ontwikkelen van vormen van verantwoordelijke kunstmatige intelligentie, die controleerbaar zijn en die in dienst staan van de mens.
Broersen ziet dat er naast haast ongebreideld optimisme over de mogelijkheden, ook veel angst is voor kunstmatige intelligentie. Er valt veel te nuanceren, vindt hij. In Radio1-programma ‘De Nacht Van’ licht Broersen zowel de kansen die AI biedt toe, als ook de grenzen eraan. En hij stelt luisteraars gerust, die vrezen voor kwaadaardige werelddominantie van kunstmatige intelligentie.
ChatGPT lijkt het spel van vragen en antwoorden prima te begrijpen. Het punt is, zegt Broersen in een interview aan NRC, hij begrijpt zichzélf niet. “Ook de beste AI-taalprogramma’s zijn niet meer dan probabilistische rekenmonsters. Ze kunnen woordvolgorde verbijsterend goed voorspellen, maar betekenis en logische structuur ontgaan ze.”
Over alle mogelijkheden, maar ook onmogelijkheden van AI praat hoogleraar Jan Broersen verder in zijn Studium Generale-lezing ‘Hoe dom is kunstmatige intelligentie?’
Vooringenomen vertaalprogramma’s
Ook hoogleraar Taal, communicatie en computatie Antal van den Bosch werkt aan toepassingen van AI in de taal- en communicatiewetenschappen. In NRC bespreekt hij de toepassingen van Large Language Models (LLM): computerprogramma’s zoals ChatGPT die grote hoeveelheden tekst kunnen analyseren, samenvatten, herkennen en bovendien teksten kunnen genereren.
Van den Bosch is enthousiast over het vertalen met spraakherkenning, zowel voor geschreven als ongeschreven talen. Maar hij ziet ook schaduwkanten van algoritmes die zich met taal bezighouden. Een probleem is, dat ze stereotypering kunnen reproduceren en zo bias in stand kunnen houden. Hierover spreekt Van den Bosch met Jort Kelder in het Radio 1-programma Dr. Kelder en co.
Teksten van ChatGPT herkennen als docent
In Het Financieele Dagblad wordt Van den Bosch bevraagd over hoe ChatGPT door studenten wordt gebruikt: hoe kan je als docent herkennen of het werk van een student authentiek is of door een chatbot is geschreven? Hier is bij ChatGPT aparte sofware voor beschikbaar, maar die is niet foutloos. “Een complicatie, is dat de detector soms ook origineel werk van een student brandmerkt als AI: een ‘vals positieve’ uitslag. Examencommissies moeten zich buigen over de vraag hoe studenten daartegen worden beschermd.”
"Focus evengoed op kritisch denkvermogen en schrijfvaardigheid van studenten"
Hoogleraar Media en digitale samenleving José van Dijck betoogt in het Financieel Dagblad dat universiteiten zich tegen plagiaat via ChatGPT kunnen wapenen, door in te zetten op de taalontwikkeling van studenten. “Als schrijfvaardigheid aan de universiteit serieus als een funderend vak zou worden gezien, zouden we ChatGPT, net als Wikipedia, zoekmachines, spelcheckers, synoniemen-apps en andere digitale hulpmiddelen, beschouwen als onderdeel van het schrijfproces.”
Van Dijck heeft ook haar bedenkingen bij het ‘open’ aspect van het bedrijf achter ChatGPT: OpenAI. “Duidelijk is dat die speeltjes gratis zijn zolang ze nog training behoeven, maar wat het verdienmodel van OpenAI gaat worden, is een goed bewaard bedrijfsgeheim. Of en hoe producten zoals ChatGPT3 en Dall-E2 achter de betaalmuur verdwijnen, is nog niet bekend. De open bedrijfsvoering die ooit werd voorgestaan, lijkt verleden tijd.”
Weerstand bieden tegen de hype van chatbots
Kritische geluiden zijn er ook. Universitair docent Vertaalwetenschap en vertalen Gys-Walt van Egdom ziet net als zijn collega’s dat we niet om chatbots als ChatGPT heen kunnen, maar denkt dat we ze misschien wel kunnen saboteren. In een opiniestuk in de Volkskrant schrijft hij:
“Ik ben van mening dat we de hype kunnen bezweren door hem massaal te voeden. Datagedreven technologie als ChatGPT vraagt juist om paradoxaal engagement. Ik zou iedereen, vooral critici, aanraden om eindeloos met de tool te spelen en tijdens het spelen datasabotage te plegen. Geef de chatbot waar hij om vraagt. Voed hem met data, maar wel met onzinnige data."
Over de oneindige mogelijkheden van AI die de oprichter van ChatGPT's moederbedrijf Open AI voorspiegelt, is Van Egdom nuchter. Het zijn namelijk niet alleen bedrijven van goede wil die AI inzetten, betoogt hij in een ander Volkskrant-artikel: “Vertaalwetenschapper Van Egdom haalt de berucht knullige phishingmails uit het verleden aan, waarin ‘Nigeriaanse prinsen’ naïeve slachtoffers verleiden tot het overmaken van geld. Die rammelende berichten kunnen met behulp van ChatGPT in een handomdraai worden opgewaardeerd tot overtuigende en goedlopende teksten in combinatie met een bijpassende site.”
Ook geautomatiseerde desinformatie en propaganda zullen massaal verspreid worden, menen veel experts. Van Egdom zegt hierover “De taalmodellen die we nu zien, zijn zo efficiënt dat de digitale wereld steeds meer over de echte wereld heen zal worden gelegd, totdat de contouren van de echte wereld nauwelijks meer te zien zullen zijn.”
Haken en ogen, maar ook kansen van AI verder toegelicht
Tot slot een leestip van hoogleraar Antal van den Bosch. Alle mitsen en maren, van arbeidsomstandigheden bij techbedrijven tot energieslurpende servers, komen ter sprake in dit Nederlandstalige artikel op Knack.be. Van den Bosch: “Nergens wordt een bocht afgesneden. Ik kan me vinden in wat alle experts zeggen, waarnemen en speculeren.”