Large Language Models: Doe-het-zelf

Tijdens deze lezing op donderdag 28 september zal hoogleraar Antal van den Bosch vertellen over het gebruik van de nieuwste open-source Grote Taalmodellen, oftewel Large Language Models (LLM’s), in onderzoek. De lezing, georganiseerd door het Centre for Digital Humanities, is voor iedereen toegankelijk.

LLM’s zijn de drijvende kracht achter chatbots zoals ChatGPT. Dankzij platforms als Huggingface zijn zowel gesloten als open-source LLM’s steeds toegankelijker geworden voor onderzoeksdoeleinden.

Tijdens deze lezing zal Van den Bosch verschillende toepassingen van open-source LLM’s verkennen. Bijvoorbeeld, hoe een getrainde LLM voor de Nederlandse taal, genaamd RobBERT, kan worden getest op bestaande cloze-testdata, aangezien deze is getraind op masked word prediction; en hoe BART, een transformer voor tekst-naar-tekstverwerking, kan worden omgevormd tot een Nederlandse spellingcorrector. Bovendien zal Van den Bosch een van de belangrijkste hindernissen bespreken om flexibel te kunnen werken met LLM's: de beperkte beschikbaarheid van GPU’s en de energie-intensieve deep learners.

Dit is een hybride lezing, waarbij je kunt kiezen om persoonlijk aanwezig te zijn in de Digital Humanities Workspace (0.32) in de Universiteitsbibliotheek Binnenstad of online deel te nemen via Teams. De voertaal van de lezing is Engels.