Software geeft vorm aan de samenleving – en dat schept verplichtingen

Software is niet alleen een technisch product, maar als iets dat onze samenleving mede vormgeeft. Daar hoort ook een grotere maatschappelijke verantwoordelijkheid bij. Dit betoogde Fabiano Dalpiaz bij zijn oratie als hoogleraar Software Production.

Kun jij je bestemming nog vinden zonder een routeplanner? Of een tekst vertalen uit een vreemde taal zonder vertaal-app? Vergader je regelmatig online met je collega’s? “Software beïnvloedt ons leven dagelijks,” zegt hoogleraar Fabiano Dalpiaz, die 20 mei zijn inaugurele rede hield. “Routeplanners beïnvloeden onze verkeersstromen, en socialmedia-apps zijn een belangrijke factor in hoe onze sociale vriendschappen opgebouwd worden.”

Idealiter wordt software ontwikkeld om tegemoet te komen aan de wensen en behoeften van de gebruikers. Zij zouden moeten bepalen aan welke eisen de software moet voldoen, bijvoorbeeld op het gebied van functionaliteit, gebruiksvriendelijkheid en veiligheid. “De gebruikerskunnen hun wensen kenbaar maken door apps te beoordelen in een app store.” Maar dat is slechts een kant van het verhaal. “De meeste software wordt gebouwd door bedrijven. Zij maken, gestuurd door commerciële belangen, doorgaans een andere afweging.”

Vertrouwelijke specificaties

De wensen en behoeften worden beschreven in de specificaties, die de ontwikkelaars gebruiken om de software te ontwerpen. “Maar die zijn bijna altijd vertrouwelijk,” aldus Dalpiaz. “En als de specificaties niet openbaar zijn, hoe weet je dan of ze doen wat ze zouden moeten doen, of – en dat geldt des te sterker bij de inzet van AI - is er werkelijk stilgestaan bij de mogelijke schadelijke gevolgen van de software?”

Als voorbeeld noemt Dalpiaz het fenomeen van digitale verslaving. “Dit is een groot probleem voor jongeren. Een softwareontwikkelaar kan bijvoorbeeld zeggen: ik ontwerp een socialmedia-app die aan deze technische vereisten voldoet, zonder verder na te denken over ethische implicaties. Dat kinderen vervolgens verslaafd raken en tot diep in de nacht op hun telefoon zitten, is vervolgens zogenaamd niet zijn schuld.”

Volgens Dalpiaz is het tijd voor een cultuuromslag in de wereld van softwareontwikkeling. “We moeten software niet alleen zien als een technisch product, maar als iets dat onze samenleving mede vormgeeft. Daar hoort ook een grotere maatschappelijke verantwoordelijkheid bij.”

Als de specificaties niet openbaar zijn, hoe weet je dan of er is stilgestaan bij mogelijke schadelijke gevolgen van de software?

Dalpiaz pleit voor meer transparantie rond de specificaties, en toevoeging van menselijke waarden aan die specificaties. Zo kunnen gebruikers zien of er werkelijk aan hun wensen en behoeften wordt voorzien wanneer zij voor bepaalde software kiezen - en kunnen bedrijven verantwoordelijk worden gehouden voor schadelijke gevolgen van hun software.

De groep van Dalpiaz werkt veel samen met het bedrijfsleven en ziet al dat er een verschuiving gaande is. “Hoewel software en hun specificaties vaak worden gezien als vertrouwelijke informatie, zien we steeds vaker dat bedrijven gedwongen worden te bewijzen dat ze voldoen aan wet- en regelgeving, zoals AVG en de Europese AI Act wanneer ze software bouwen. Dus naar mijn mening is dit een krachtig mechanisme om bedrijven te laten bewegen.”

Ethisch bewuste engineers

Tegelijkertijd ziet Dalpiaz ook steeds meer ethisch bewuste engineers: softwareontwikkelaars die zich steeds meer bewust zijn van de ethische implicaties van hun werk. “Dankzij kunstmatige intelligentie hoef je geen keiharde informatica-achtergrond meer te hebben om software te ontwikkelen. Dat maakt de weg vrij voor talent uit de psychologie, sociologie en rechten om zich met dit onderwerp bezig te houden. Er is een grote behoefte aan mensen uit deze hoek om deze beweging door te zetten