Geesteswetenschappers over ChatGPT en de morele kwesties van AI

Illustratie van twee robots waarvan 1 een goed en 1 een fout geweten heeft © iStockphoto.com/nadia_bormotova
Morele kwesties AI © iStockphoto.com/nadia_bormotova

ChatGPT. De afgelopen weken had iedereen het over de chatrobot die zelf teksten kan genereren. Unieke teksten, moeilijk van ‘echt’ te onderscheiden. Het is een voorbeeld van kunstmatige intelligentie, ook artificiële intelligentie (AI) genoemd. AI roept niet alleen technische, maar ook morele vragen op: hoe zal het onze economie beïnvloeden? Kan AI helpen bij het oplossen van problemen in onze samenleving en hoe dan? Maar ook: wat is de impact van AI op menselijke autonomie? Hiernaar doen verschillende geesteswetenschappers onderzoek.

Verantwoorde kunstmatige intelligentie

Een van hen is hoogleraar Filosofie Jan Broersen. Met een achtergrond in wiskunde, logica en computerwetenschappen onderzoekt hij filosofische vragen die AI opwerpt. Bijvoorbeeld hoe op logica gebaseerde methoden van modellering kunnen helpen bij het ontwikkelen van vormen van verantwoordelijke kunstmatige intelligentie, die controleerbaar zijn en die in dienst staan van de mens.

Broersen ziet dat er naast haast ongebreideld optimisme over de mogelijkheden, ook veel angst is voor kunstmatige intelligentie. Er valt veel te nuanceren, vindt hij. In Radio1-programma ‘De Nacht Van’ licht Broersen zowel de kansen die AI biedt toe, als ook de grenzen eraan. En hij stelt luisteraars gerust, die vrezen voor kwaadaardige werelddominantie van kunstmatige intelligentie.

ChatGPT lijkt het spel van vragen en antwoorden prima te begrijpen. Het punt is, zegt Broersen in een interview aan NRC, hij begrijpt zichzélf niet. “Ook de beste AI-taalprogramma’s zijn niet meer dan probabilistische rekenmonsters. Ze kunnen woordvolgorde verbijsterend goed voorspellen, maar betekenis en logische structuur ontgaan ze.”

Over alle mogelijkheden, maar ook onmogelijkheden van AI praat hoogleraar Jan Broersen verder in zijn Studium Generale-lezing ‘Hoe dom is kunstmatige intelligentie?’

 

‘Hoe ChatGPT ervoor kan zorgen dat jij in je politieke bubbel blijft zitten’ (Brandpunt+, 1 maart 2023)
‘AI zit verblufte, betoverde én ontnuchterde filosofen op de hielen’ (NRC, 22 februari 2023)
Bekijk hier Studium Generale met Jan Broersen ‘Hoe dom is kunstmatige intelligentie?’ (22 februari 2023)
‘De Nacht Van... ‘De twee kanten van AI’ (24 januari 2023)

Vooringenomen vertaalprogramma’s

Ook hoogleraar Taal, communicatie en computatie Antal van den Bosch werkt aan toepassingen van AI in de taal- en communicatiewetenschappen. In NRC bespreekt hij de toepassingen van Large Language Models (LLM): computerprogramma’s zoals ChatGPT die grote hoeveelheden tekst kunnen analyseren, samenvatten, herkennen en bovendien teksten kunnen genereren.

Van den Bosch is enthousiast over het vertalen met spraakherkenning, zowel voor geschreven als ongeschreven talen. Maar hij ziet ook schaduwkanten van algoritmes die zich met taal bezighouden. Een probleem is, dat ze stereotypering kunnen reproduceren en zo bias in stand kunnen houden. Hierover spreekt Van den Bosch met Jort Kelder in het Radio 1-programma Dr. Kelder en co.

Teksten van ChatGPT herkennen als docent

In Het Financieele Dagblad wordt Van den Bosch bevraagd over hoe ChatGPT door studenten wordt gebruikt: hoe kan je als docent herkennen of het werk van een student authentiek is of door een chatbot is geschreven? Hier is bij ChatGPT aparte sofware voor beschikbaar, maar die is niet foutloos. “Een complicatie, is dat de detector soms ook origineel werk van een student brandmerkt als AI: een ‘vals positieve’ uitslag. Examencommissies moeten zich buigen over de vraag hoe studenten daartegen worden beschermd.”

‘ChatGPT: droom én nachtmerrie ineen’, EW Magazine (8 maart 2023)
‘Kletsen met ChatGPT’, Dr. Kelder en co (28 januari 2023)
‘Artificial intelligence maakt ons onderwijs achterhaald’, Het Financieele Dagblad (22 december 2022)
‘Als de computer beter wordt met taal dan wij’, NRC (4 december 2022)
‘Romanschrijvers en andere creatievelingen, overbodig?!’, De Jortcast (3 februari 2022)
‘Wordt Jort vervangen door een computer?’, De Jortcast (2 februari 2022)

"Focus evengoed op kritisch denkvermogen en schrijfvaardigheid van studenten"

Hoogleraar Media en digitale samenleving José van Dijck betoogt in het Financieel Dagblad dat universiteiten zich tegen plagiaat via ChatGPT kunnen wapenen, door in te zetten op de taalontwikkeling van studenten. “Als schrijfvaardigheid aan de universiteit serieus als een funderend vak zou worden gezien, zouden we ChatGPT, net als Wikipedia, zoekmachines, spelcheckers, synoniemen-apps en andere digitale hulpmiddelen, beschouwen als onderdeel van het schrijfproces.”

Van Dijck heeft ook haar bedenkingen bij het ‘open’ aspect van het bedrijf achter ChatGPT: OpenAI. “Duidelijk is dat die speeltjes gratis zijn zolang ze nog training behoeven, maar wat het verdienmodel van OpenAI gaat worden, is een goed bewaard bedrijfsgeheim. Of en hoe producten zoals ChatGPT3 en Dall-E2 achter de betaalmuur verdwijnen, is nog niet bekend. De open bedrijfsvoering die ooit werd voorgestaan, lijkt verleden tijd.”

'Foto, gemaakt zonder camera – is dat nog een foto?' (NRC, 28 april 2023)
'Kletsen met kunstmatige intelligentie' (Dr Kelder & Co, 22 april 2023)
‘Kan de politiek de razendsnelle ontwikkeling van AI wel bijhouden?’, AD (19 april 2023)
‘“Als studenten ChatGPT inzetten om voor hen te denken, doen docenten iets fout”’, Science Guide (14 maart 2023)
‘Hoe weet je of een kennisbron als ChatGPT deugt’, Financieel Dagblad (9 maart 2023)
Lees hier 'Maak van studenten geen papegaaien', (Financieel Dagblad, 10 februari 2023)
Lees hier 'Idealisme van OpenAI lijkt niet meer dan een luchtballon' (Financieel Dagblad, 8 januari 2023)
Chatbot © iStockphoto.com/Tippapatt
Chatbot © iStockphoto.com/Tippapatt

Weerstand bieden tegen de hype van chatbots

Kritische geluiden zijn er ook. Universitair docent Vertaalwetenschap en vertalen Gys-Walt van Egdom ziet net als zijn collega’s dat we niet om chatbots als ChatGPT heen kunnen, maar denkt dat we ze misschien wel kunnen saboteren. In een opiniestuk in de Volkskrant schrijft hij:

“Ik ben van mening dat we de hype kunnen bezweren door hem massaal te voeden. Datagedreven technologie als ChatGPT vraagt juist om paradoxaal engagement. Ik zou iedereen, vooral critici, aanraden om eindeloos met de tool te spelen en tijdens het spelen datasabotage te plegen. Geef de chatbot waar hij om vraagt. Voed hem met data, maar wel met onzinnige data."

Over de oneindige mogelijkheden van AI die de oprichter van ChatGPT's moederbedrijf Open AI voorspiegelt, is Van Egdom nuchter. Het zijn namelijk niet alleen bedrijven van goede wil die AI inzetten, betoogt hij in een ander Volkskrant-artikel: “Vertaalwetenschapper Van Egdom haalt de berucht knullige phishingmails uit het verleden aan, waarin ‘Nigeriaanse prinsen’ naïeve slachtoffers verleiden tot het overmaken van geld. Die rammelende berichten kunnen met behulp van ChatGPT in een handomdraai worden opgewaardeerd tot overtuigende en goedlopende teksten in combinatie met een bijpassende site.”

Ook geautomatiseerde desinformatie en propaganda zullen massaal verspreid worden, menen veel experts. Van Egdom zegt hierover “De taalmodellen die we nu zien, zijn zo efficiënt dat de digitale wereld steeds meer over de echte wereld heen zal worden gelegd, totdat de contouren van de echte wereld nauwelijks meer te zien zullen zijn.”

'Bedenkingen bij ChatGPT: zakken we weg in een moeras van desinformatie?' De Volkskrant (27 januari 2023)
‘Bezweer ChatGPT door zijn algoritmen te ontregelen’, de Volkskrant (18 januari 2023)

Haken en ogen, maar ook kansen van AI verder toegelicht

Tot slot een leestip van hoogleraar Antal van den Bosch. Alle mitsen en maren, van arbeidsomstandigheden bij techbedrijven tot energieslurpende servers, komen ter sprake in dit Nederlandstalige artikel op Knack.be. Van den Bosch: “Nergens wordt een bocht afgesneden. Ik kan me vinden in wat alle experts zeggen, waarnemen en speculeren.”

'De gevaren van ChatGPT: ‘We dreigen collectief dommer te worden’', Knack.be (23 januari 2023)