Naast de AI-geletterdheid uit artikel 4 kent de AI-verordening een tweede verplichting die ontwikkelteams direct raakt: de transparantieregels uit artikel 50.
Waar het op neerkomt
De kern is dat mensen moeten kunnen weten wanneer ze met een AI-systeem te maken hebben in plaats van met een mens, en wanneer materiaal door AI is gemaakt of bewerkt. Denk aan een chatbot die zich als zodanig kenbaar maakt, en aan gegenereerde beelden, audio of video die herkenbaar zijn als kunstmatig.
Waarom dit een technische opgave is, geen juridische
Deze verplichting landt zelden bij de juridische afdeling alleen. Het raakt de opzet van je interface, je contentpijplijn en soms je metadata. Een melding die pas na drie schermen verschijnt voldoet niet aan de bedoeling. Een label dat bij export verdwijnt evenmin.
Voor ontwikkel- en testteams betekent dat concreet:
- conversationele interfaces maken duidelijk dat er geen mens meeleest
- gegenereerde of bewerkte media blijven ook na verwerking herkenbaar
- de melding is zichtbaar op het moment dat het ertoe doet, niet weggestopt in een voorwaardenpagina
- je kunt achteraf aantonen hoe je dit hebt ingericht
Wat je nu kunt doen
Loop je eigen AI-toepassingen langs en stel per toepassing twee vragen: weet een gebruiker dat hier AI in het spel is, en zou een buitenstaander dat kunnen vaststellen zonder jouw uitleg? Waar het antwoord twee keer ja is, zit je goed. Waar dat niet zo is, weet je waar te beginnen.
In onze AI-trajecten komt dit onderwerp terug voor de rollen waar het speelt: development, testing, security en de mensen die AI-toepassingen inkopen of beoordelen.
Wie transparantie structureel wil borgen in plaats van per toepassing, vindt in ISO/IEC 42001 het kader: een AI-managementsysteem met vaste rollen, risicobeoordeling en beheersmaatregelen.