Mogelijk verbod op AI voor ambtenaren: “Je weet niet wat er met die data gebeurt”

Na het verbieden van TikTok voor rijksambtenaren, is staatssecretaris Alexandra van Huffelen (D66) aan het werken aan een plan om software met kunstmatige intelligentie (AI) te verbieden voor rijksambtenaren. Hoogleraar taal en kunstmatige intelligentie Antal van den Bosch strijdt al een tijd voor regelgeving op AI-gebied en vertelt meer in Trouw.

ChatGPT, Bard, Dall-E en Midjourney

Het plan van Van Huffelen draait om software als ChatGPT, Bard, Dall-E en Midjourney. Deze software zou, als het plan wordt aangenomen, niet meer mogen worden gebruikt op ministeries en hun leveranciers. Van den Bosch, die al een tijd pleit voor regelgeving op dit gebied, is blij met het plan.

Transparantie en open source

“AI moet gezien worden als een ontwikkeling van de publieke infrastructuur, net als internet en gasleidingen”, vertelt Van den Bosch. Dat ambtenaren werken met AI is volgens hem niet het probleem: het probleem ligt bij de soort AI die gebruikt wordt. Hij stelt dat het streven van de wetenschap, transparantie en open source, ook voor de overheid zou moeten gelden.

“Het kan gewoon niet”

“Open AI, het bedrijf achter ChatGPT, is echter, anders dan de naam doet vermoeden, allesbehalve een open bedrijf”, zegt Van den Bosch. Ambtenaren werken vaak met gevoelige informatie, die op buitenlandse servers van de software-bedrijven zou kunnen belanden. “Het kan gewoon niet,” stelt hij, “je weet niet wat er met die data gebeurt.”

Alternatief

Momenteel wordt gewerkt aan een Nederlands taalmodel, GPT-NL. Dit model moet eind 2024 af zijn en is volgens Van den Bosch een goed alternatief voor de software die nu gebruikt wordt. “Andere alternatieven zijn er ook wel, zoals Falcon, maar die zijn minder goed.”