Ruim een jaar na de introductie van ChatGPT heeft het demissionaire kabinet een uitgebreide visie op generatieve AI gepresenteerd. In de visie schetst het kabinet de beleidsmatige impact van generatieve AI. Het kabinet beoogt een AI-landschap waarin publieke waarden centraal staan. In Europees verband wil het kabinet voortrekker zijn.
Opzetten Nederlands AI-model
Het kabinet beschrijft in de visie de plannen voor het opzetten van een Nederlands generatief AI-model, GPT-NL. De ontwikkeling van een vertrouwd Nederlands model voor specifieke toepassingen kan noodzakelijk tegenwicht bieden aan de AI-modellen van de grote commerciële techplatforms.
Het kabinet uitte eerder al zijn fundamentele bezwaren op het terrein van auteursrecht en privacy bij AI-modellen zoals ChatGPT en Bard.
Opmars AI stuwt desinformatie
Het kabinet waarschuwt in zijn visie ook voor desinformatie, die de opmars van AI met zich meebrengt. “Het risico op desinformatie groeit doordat generatieve AI het creëren en verspreiden ervan vergemakkelijkt,” zo schrijft het kabinet.
Hoewel het kabinet dit risico identificeert, ontbreekt het aan vervolgstappen. Voor de impact op de betrouwbaarheid van de nieuwsvoorziening heeft het kabinet in de visie geen aandacht.
Bezwaren bij ingezette trainingsdata
In de visie spreekt het kabinet ook over de mogelijke toename van ‘bias’. Het kabinet schrijft: “Een niet te onderschatten uitdaging bij generatieve AI vormt de eventuele vooringenomenheid […] die als gevolg van de gebruikte trainingsdata […] in de systemen verankerd kan zijn.”
Nieuwsuitgevers waarschuwden al eerder over de werkwijze van AI-partijen bij het trainen van hun modellen. Onderzoek van De Groene Amsterdammer maakte inzichtelijk dat techpartijen hun AI-modellen trainen met een dataset waarin op grote schaal racistische en discriminerende content voorkomt. Naast het aspect van auteursrechtelijke schendingen willen Nederlandse nieuwsuitgevers voorkomen dat nieuwsartikelen in generatieve AI verweven raken met deze racistische en discriminerende content.
Transparantieverplichting in AI Act
Dankzij de recent tot stand gekomen Europese AI Act krijgen techpartijen een transparantieverplichting opgelegd, die hen dwingt inzichtelijk te maken met welke data zij hun modellen voor generatieve AI trainen. Het is een gemiste kans dat het kabinet in zijn visie het belang van transparantie onvoldoende benoemt.
Beschermen van auteursrecht
Het kabinet heeft oog voor inbreuken op het auteursrecht door ontwikkelaars van generatieve AI. In de visie onderstreept het kabinet de realistische kans dat ontwikkelaars geen rechtmatige toegang tot auteursrechtelijk beschermde werken hebben of de door uitgevers gemaakte voorbehouden niet respecteren. Het genoemde onderzoek van De Groene toonde aan dat nieuwscontent de grootste categorie is in de dataset die AI-ontwikkelaars gebruiken.
Desondanks kiest het kabinet een passieve houding. Het kabinet zal de ontwikkelingen rond auteursrechtinbreuken monitoren en, indien nodig, in Europees verband voorstellen het beleid ter zake aan te scherpen. Bovendien verwijst het kabinet rechthebbenden naar de rechter, die duidelijkheid zal moeten verschaffen over wat wel en niet is toegestaan bij het trainen van AI-modellen.
Herman Wolswinkel, directeur van NDP Nieuwsmedia: “Dat nieuwsuitgevers al lange tijd een voorbehoud maken op het scrapen van hun artikelen, lijkt te worden genegeerd. In plaats van af te wachten, kan het kabinet veel voortvarender te werk gaan. Het raakt immers aan de toekomst van de nieuwsvoorziening. Bij het hooghouden van de publieke waarden ligt een overheidsrol juist voor de hand.”
Aanscherpingen noodzakelijk
Het kabinet kondigt aan dit jaar te onderzoeken welke tekortkomingen er bestaan in het huidige beleid. NDP Nieuwsmedia verwelkomt de toezegging om de dialoog van het kabinet met het bedrijfsleven over generatieve AI te intensiveren.
Hoewel AI de nieuwssector veel kansen biedt, klinkt in de visie van het kabinet onvoldoende besef door van de potentiële grootschalige impact op de beschikbaarheid en zichtbaarheid van betrouwbare, onafhankelijke kwaliteitsjournalistiek. De stappen die techpartijen zetten om met AI een groter deel van de informatie- en nieuwsvoorziening toe te eigenen, zouden het kabinet tot meer actie moeten aansporen.
NDP Nieuwsmedia zal daar bij kabinet en ministeries op blijven aandringen. Het zou zeer welkom zijn als het nieuwe kabinet samen met nieuwsuitgevers én AI-partijen beleid formuleert om het nieuwsecosysteem te beschermen en te versterken.
