Problemen met generatieve AI in het onderwijs

De data bias van een chatbot is een weerspiegeling van de vooroordelen uit de trainingsdata. Deze data, afkomstig van onder andere het internet, kan diverse biases bevatten, wat soms resulteert in stereotyperende of schadelijke output. Een berucht voorbeeld hiervan is Microsofts chatbot Tay, die in 2016 binnen zestien uur offline werd gehaald omdat het nazistische, racistische en seksistische taal begon uit te slaan.

iv Ontwikkelaars streven ernaar te voorkomen dat een chatbot de vooroordelen en schadelijke stereotypen uit de meest duistere lagen van het internet gaat gebruiken voor het genereren van antwoorden. Daarom worden er filters geplaatst op de antwoorden van nieuwe chatbots. Dit zorgt er niet voor dat ChatGPT geen vooroordelen meer bevat, maar alleen dat deze minder makkelijk boven water te krijgen zijn.v

Er bestaat ook zoiets als Trainer Bias. Om te voorkomen dat een chatbot racistische, seksistische of andere schadelijke stereotypen gaat verkondigen, worden er twee methoden gebruikt: 1. Ethical Governor: De chatbot wordt actief getraind door mensen, een proces dat datalabeling wordt genoemd. Hierdoor leert de chatbot gewelddadige, hatelijke en andere ongewenste uitingen te herkennen en te filteren voordat het de gebruiker bereikt. 2. Regels in het programma: Er zijn regels geprogrammeerd die bepalen op welke vragen een chatbot wel of niet mag reageren. Ook vragen over de chatbot zelf worden vooraf geprogrammeerd omdat chatbots geen zelfkennis hebben; ze worden geladen met data voordat ze actief worden, en die data bevat geen informatie over de chatbot zelf.

Programmeurs blijven voortdurend aanpassingen maken. Vragen waarop een chatbot voorheen antwoordde, worden nu mogelijk afgewezen. Bijvoorbeeld, ChatGPT had problemen met het genereren van betrouwbare bronnen en verzon vaak artikelen. Nu, als je om een bronnenlijst in APAstijl vraagt, kun je een antwoord ontvangen zoals: “Helaas kan ik geen specifieke bronnen verstrekken in APA-stijl, aangezien mijn informatie niet direct is afgeleid van specifieke bronnen, en ik heb geen toegang tot een database met referenties.”

Deze getrainde aanpak maakt ChatGPT beleefder, minder schadelijk en bruikbaarder, maar maakt het ook moeilijker om te begrijpen hoe het tot een antwoord komt. Het toont niet alleen de bias van de data, maar ook de bias van de trainers, oftewel de programmeurs, de data-labelers en de mensen die de instructies opstellen voor hoe de data-labelers te werk moeten gaan

Data-labelen is cruciaal voor het trainen van AI-systemen zoals ChatGPT, waarbij mensen beelden en teksten beoordelen om de AI te helpen verschillende soorten inhoud te herkennen en gepast te reageren. OpenAI, de organisatie achter ChatGPT, had deze taak uitbesteed aan het Keniaanse bedrijf Sama. De werknemers van Sama kregen de opdracht om gruwelijke inhoud te labelen, en de werkomstandigheden waren verre van ideaal: ze werden slecht betaald, konden gemakkelijk ontslagen worden, en hoewel ze met zwaar materiaal werkten, was er beperkte psychologische ondersteuning beschikbaar. Dit leidde tot langdurige mentale schade bij sommige werknemers.

De samenwerking tussen Sama en OpenAI eindigde in een geschil, waarbij beide partijen elkaar de schuld gaven van de ontstane problemen. Dit incident onderstreept de ethische uitdagingen bij het trainen van AI, vooral omdat er momenteel geen alternatieve methoden zijn om AI-systemen te leren om ongewenst materiaal effectief te identificeren en te weren zonder menselijke tussenkomst. Dit roept belangrijke vragen op over de verantwoordelijkheid en de bescherming van degenen die betrokken zijn bij het data-labelingsproces.vi

Meer hierover lees je in het TIME onderzoek

De meeste generatieve AI, zoals ChatGPT, is ontwikkeld door grote techbedrijven met een winstoogmerk. Hun belangen verschillen vaak van die van universiteiten, docenten of studenten. Deze bedrijven zijn bovendien zo groot dat het bijna onmogelijk is om invloed op ze uit te oefenen. Dit roept grote vragen op rond thema's als gelijkheid, privacyrisico’s en afhankelijkheid van big tech (Last & Sprakel, 2023).

In eerste instantie leken chatbots, waaronder ChatGPT, een oplossing te bieden voor studenten die minder ondersteuning in hun directe omgeving hebben. Echter, recente ontwikkelingen, zoals de introductie van een betaalde versie van ChatGPT, lijken juist tot meer ongelijkheid te leiden tussen studenten die dit wel kunnen betalen en studenten die daar niet de middelen voor hebben. Deze premium versie biedt aanzienlijk meer functies dan de gratis variant. Gebruikers kunnen bijvoorbeeld data uploaden en laten visualiseren, gebruikmaken van een schrijfhulp, programmeerhulp, wiskundetutor, en zelfs AI-gegenereerde tekst menselijker laten klinken om plagiaatdetectoren te omzeilen. Bovendien is het mogelijk om met de betaalde versie eigen chatbots te ontwikkelen met unieke features. Het verschil tussen de gratis en betaalde versie is dus aanzienlijk.

Het blijft belangrijk om te erkennen dat de drijfveer van bedrijven achter generatieve AI voornamelijk financieel is, en dit in overweging te nemen bij het bepalen hoe deze technologieën worden gebruikt en geïntegreerd in het onderwijs.

"Voor niets komt gaat de zon op", en dat geldt zeker als het gaat om het gebruik van generatieve AI. Aangezien AI tot nu toe altijd aangeboden worden werd door bedrijven met een winstoogmerk, is het vaak zo dat hoewel de service gratis lijkt, je toch betaalt met je data. Gezien de omvang van deze bedrijven, is het een uitdaging om hen te houden aan de normen van dataveiligheid van de UU. Daarom is het essentieel om zorgvuldig om te gaan met het gebruik van generatieve AI en om voorzichtig te zijn met de informatie die je erin verwerkt.

Iedereen heeft de vrijheid om eigen gegevens te delen met generatieve AI-systemen, omdat dit valt onder eigen verantwoordelijkheid. Jij bent de eigenaar van jouw data, maar ga er bewust mee om. Het is nooit toegestaan om persoonlijke informatie van anderen, inclusief cursusmateriaal en het werk van studenten, met een generatieve AI te delen zonder hun expliciete toestemming.

Een ander belangrijk aspect van generatieve AI waar zeker aandacht aan moet besteed worden, betreft het auteursrecht. AI-modellen blinken uit in het genereren van output, maar hoe uniek is deze output echt? Het blijkt dat dit een lastig juridisch verhaal is, omdat de data waarop AI-modellen getraind worden vaak auteursrechtelijk beschermd zijn.

Onder bepaalde voorwaarden mag een deel van deze data gebruikt worden onder de noemer 'fair use'. Dit principe staat beperkt gebruik van auteursrechtelijk beschermd materiaal toe. Maar als de AI-output te veel lijkt op het originele, auteursrechtelijk beschermde materiaal, kan dit juridische gevolgen hebben. Denk hierbij bijvoorbeeld aan civielrechtelijke aansprakelijkheid. De vraag naar oplossingen voor dit probleem is dus groot.

Een mogelijke oplossing zou een 'fair-use filter' kunnen zijn, die nagaat in hoeverre AI-output overeenkomt met het origineel. Een alternatieve benadering kan zijn dat de AI zich beperkt tot het kopiëren van feiten en niet letterlijk creatieve expressies overneemt. Echter blijkt dit laatste technisch een lastig verhaal te zijn.

Op dit moment is er geen eenduidige oplossing voor dit auteursrechtelijk probleem. Het is voor docenten van cruciaal belang om op de hoogte te blijven van de nieuwste ontwikkelingen in wet- en regelgeving rondom auteursrecht, om zo studenten effectief te onderwijzen in deze snel veranderende omgeving.” (Last & Sprakel, 2023). De website https://aivoorstudenten.nl/ is een handige website hiervoor, met ook informatie voor docenten.

De huidige gratis versie van ChatGPT (Mei, 2024) is getraind met data tot en met september 2022. Dit benadrukt een interessante beperking van taalmodellen zoals ChatGPT: het is essentieel om na te gaan wanneer het model voor het laatst is bijgewerkt, omdat dit bepaalt in hoeverre het kan omgaan met recente onderwerpen. Deze beperking is niet uniek voor ChatGPT; veel taalmodellen hebben met soortgelijke uitdagingen te maken. De betaalde versies van dergelijke modellen, waaronder ChatGPT, bieden echter vaak extra geavanceerde functies, zoals realtime toegang tot het internet en de mogelijkheid om bestanden te uploaden of eigen modellen te creëren en te trainen op persoonlijke data.

[1] https://www.volkskrant.nl/kijkverder/v/2023/hoeveel-water-en-energie-gebruikt-uw-favoriete-chatbot~v974828/?referrer=https%3A%2F%2Fwww.google.com%2F

[1] https://nos.nl/nieuwsuur/artikel/2477186-kunstmatige-intelligentie-vreet-stroom-een-opdracht-hetzelfde-als-een-uur-een-lamp-aan

[1] https://www.iea.org/energy-system/buildings/data-centres-and-data-transmission-networks

[1] https://www.trouw.nl/welkom-in-de-ai-fabriek/in-no-time-is-de-chatbot-tot-een-nazi-getraind~b7fe1349/?referrer=https://www.google.com/

[1] https://www.trouw.nl/welkom-in-de-ai-fabriek/in-no-time-is-de-chatbot-tot-een-nazi-getraind~b7fe1349/?referrer=https://www.google.com/

[1] https://decorrespondent.nl/14173/waarom-chatgpt-geen-racistische-viespeuk-is-dankzij-een-stel-kenianen-voor-twee-dollar-per-uur/088588ff-d840-069c-3494-7f07eeeda042    

https://www.theguardian.com/technology/2023/aug/02/ai-chatbot-training-human-toll-content-moderator-meta-openai    

https://www.wsj.com/articles/chatgpt-openai-content-abusive-sexually-explicit-harassment-kenya-workers-on-human-workers-cf191483   

Verdere bronnen

https://www.trouw.nl/welkom-in-de-ai-fabriek/in-no-time-is-de-chatbot-tot-een-nazi-getraind~b7fe1349/?referrer=https://www.google.com/)  

https://www.volkskrant.nl/kijkverder/v/2023/hoeveel-water-en-energie-gebruikt-uw-favoriete-chatbot~v974828/?referrer=https%3A%2F%2Fwww.google.com%2F

https://time.com/6247678/openai-chatgpt-kenya-workers/  

https://decorrespondent.nl/14173/waarom-chatgpt-geen-racistische-viespeuk-is-dankzij-een-stel-kenianen-voor-twee-dollar-per-uur/088588ff-d840-069c-3494-7f07eeeda042  

https://www.theguardian.com/technology/2023/aug/02/ai-chatbot-training-human-toll-content-moderator-meta-openai  

https://www.wsj.com/articles/chatgpt-openai-content-abusive-sexually-explicit-harassment-kenya-workers-on-human-workers-cf191483  

Boek:
Chatten met Napoleon (Barend Last & Thijmen Sprakel, 2022)