Muziekaanbevelers laten een sterk gendervooroordeel zien
Algoritmes voor muziekaanbeveling op streamingplatforms blijken sterk bevooroordeeld te zijn wat betreft gender. Christine Bauer, docent Informatica, ontdekte in een recent onderzoek dat vrouwelijke artiesten niet meer dan 25 procent van alle aanbevelingen beslaan.
“Mijn onderzoekscollega's en ik waren oorspronkelijk geïnteresseerd in wat artiesten vinden van de manier waarop muziekaanbevelers op streamingplatforms werken,” zegt Christine Bauer, die onderzoek doet naar de eerlijkheid van aanbevelers.
“Onze indruk was dat de mening van artiesten – die voor de meeste content zorgen - nog niet was onderzocht. Daarom namen we contact op met artiesten uit verschillende genres en met verschillende niveaus van populariteit. Sommige artiesten waren alleen plaatselijk bekend, anderen waren internationaal populair. We wilden zien wat zij vinden van muziekstreamingplatforms, wat hen bevalt en wat ze anders zouden willen hebben.”
De onderzoekers kozen voor open vragen om de antwoorden van de artiesten niet in een bepaalde richting te sturen. Toch bleek dat alle negen artiesten die ze interviewden gender als één van de hoofdproblemen in de muziekindustrie zagen.
“Weinig vrouwelijke artiesten krijgen aandacht, en dit lijkt al decennia zo te zijn. De artiesten zien de aanbevelingssystemen als een kans om vooruit te komen en een betere genderbalans te krijgen. Ik vond het heel interessant dat de artiesten algoritmes zagen als een manier om de wereld te verbeteren, terwijl we gewend zijn om ze als iets negatiefs te zien.”
“Dus keken we naar hoe algoritmes voor muziekaanbeveling presteren als het op gender aankomt, en we kwamen erachter dat er grofweg 25 procent vrouwelijke artiesten is, en hetzelfde getal is ook van toepassing bij consumptie door luisteraars: daar maken vrouwelijke artiesten ook slechts een kwart van het totaal uit. Deze onbalans wordt opnieuw gereproduceerd door de algoritmes. Als er aanbevelingen worden gedaan, zijn vrouwelijke artiesten 25 procent van het totaal. Wat daar ook nog bijkomt, is dat de vrouwelijke artiesten lager in de ranglijsten staan.”
Vicieuze cirkel
In hun volgende stap draaiden de onderzoekers een simulatie die liet zien hoe de algoritmes zich op de lange termijn zouden gedragen. Ze zagen dat vrouwelijke artiesten onderaan bleven staan en meer dan dat: hun percentage daalde zelfs licht.
“We veranderden daarna het algoritme een beetje om te zien hoe het zich zou gedragen in de simulatie als gebruikers luisteren naar wat wordt aanbevolen. Dat is hoe het meestal gaat: we consumeren wat we aanbevolen krijgen. Het is eigenlijk een cyclus: wat we consumeren is input voor de aanbeveling en wat de aanbeveler aanbeveelt is wat we consumeren. Dit helpt ons begrijpen hoe het komt dat het percentage vrouwelijke artiesten een lange tijd constant is gebleven.”
De platforms hebben veel mogelijkheden om de genderbalans in de algoritmes te verbeteren.
Gezien de vicieuze cirkel van luisteren naar aanbevelingen, is het geen verrassing dat Christine Bauer en haar collega's een onmiddellijke toename in het aantal aanbevolen vrouwelijke artiesten zien bij zelfs een kleine verandering van het algoritme. Het algoritme als het ware leerde het nieuwe gedrag te reproduceren.
Maar ze waarschuwt tegen definitieve conclusies uit de gesimuleerde situatie, aangezien in de praktijk gezien moet worden of het gemanipuleerde algoritme zo werkt. Hoewel de onderzoekers een enorme dataset van LastFM hebben gebruikt, een platform dat luistergedrag van verschillende streamingplatforms verzamelt, moeten streamingplatforms voor de echte test hun algoritmes in de realiteit veranderen.
“Kort samengevat zien we dat de platforms veel mogelijkheden hebben om de genderbalans in de algoritmes te verbeteren, maar ook dat ze veel macht hebben.”
Stemmen horen
Muziekplatforms en hun aanbevelingsalgoritmes lijken geen overduidelijke onderzoekskeuzes voor een informaticus, maar dat is het wel voor Christine Bauer, die zelf saxofoon speelt en onlangs lid is geworden van een Utrechtse big band.
“Er komt veel samen in dit onderwerp. Ik heb al een lange tijd onderzoek gedaan naar systemen die zich aanpassen aan personen en situaties in verschillende onderzoeksgebieden. Daarnaast hou ik heel veel van muziek. Ik maak en luister intensief naar muziek, en ik ben bevriend met veel muzikanten. En voor ik met mijn wetenschappelijke carrière begon, werkte ik aan copyright- en licentiekwesties bij een auteursrechtenorganisatie.”
“Ik vind het vooral belangrijk om een handreiking te doen naar de mensen die last hebben van hoe de algoritmes werken, de artiesten zelf. In de wetenschap doen we vaak aannames zonder erachter te komen wat de bestudeerde groep echt denkt.”
In een nog te verschijnen artikel praat ze over een ander onderzoek naar het gebruik van spraakassistent-technologie. En opnieuw spelen aannames een rol.
“We wilden erachter komen welke parameters een stem vrouwelijker of mannelijker laten klinken. Het is interessant dat het haast niet mogelijk is om een genderloze stem te hebben, aangezien mensen altijd een gender waarnemen in elke stem die ze horen. Ik vind dit vooral interessant omdat sommige onderzoekers hebben gewerkt aan het maken van een genderloze stem. Maar een ander onderzoek laat duidelijk zien dat zoiets niet bestaat: elke persoon in het onderzoek nam een gender waar. Dit roept vragen op over hoe een stem wordt gebruikt in een spraakassistent en wat deze stemmen suggereren. Mijn conclusie is dat we voorzichtig moeten zijn in het aangeven van genders, aangezien luisteraars het oneens zijn over welk gender ze horen.”