Media Marketing | News | AI-geletterdheid verplicht onder de AI Act, ook voor uw onderneming?, door Beatrijs Dewijngaert en Hannah Tacheny (AdaStone)

AI-geletterdheid verplicht onder de AI Act, ook voor uw onderneming?, door Beatrijs Dewijngaert en Hannah Tacheny (AdaStone)

Op 2 februari 2025 zijn de eerste verplichtingen uit de Europese AI Act in werking getreden . Ze zijn van toepassing op zowel ontwikkelaars als gebruikers van AI-systemen.
Één van de eerste maatregelen is het verbieden van bepaalde AI-systemen die een onaanvaardbaar risico vormen. Daarnaast introduceert de AI Act een nieuwe verplichting: AI-geletterdheid (“maîtrise de l’IA”).

Wat is AI-geletterdheid?

Een gebruiker is AI-geletterd wanneer die beschikt over de nodige kennis over de werking van een AI-systeem, welke risico’s eraan verbonden zijn en de impact ervan kan inschatten. Iedere onderneming die AI gebruikt moet erop toezien dat elke teamlid op de werkvloer met de nodige kennis en op een voldoende geïnformeerde manier met AI werkt, waaronder:

een basiskennis van AI-systemen: hoe werkt het, wat zijn de voordelen en de beperkingen?;
kritisch kijken naar AI-output;
verantwoord en ethisch AI-gebruik waarbij er rekening gehouden wordt met aspecten zoals privacy, transparantie en het risico op vooringenomenheid (bias).

Het vereiste niveau van AI-geletterdheid zal uiteraard voor elk teamlid verschillen en zal afhankelijk zijn van de functie, de technische kennis en de context waarin het AI-systeem wordt gebruikt. Zo is het bijvoorbeeld logisch dat er een meer diepgaande kennis verwacht wordt van het HR-team dat AI gebruikt voor een screening van CV’s tijdens een sollicitatieproces.

De weg naar AI-geletterdheid

1. Een grondige analyse als startpunt: AI-geletterdheid begint bij een goed begrip van de AI-systemen die binnen uw onderneming worden gebruikt, de teams die ervan gebruikt maken en de risico’s.
Elk AI-systeem brengt andere uitdagingen met zich mee: terwijl het ene systeem privacy risico’s teweegbrengt voor uw klanten, kan een ander foute aanbevelingen doen bij het analyseren van financiële gegevens.
Hierna moeten de AI-systemen zelf ook onder de loep worden genomen. Bekijk daarvoor de informatie of richtlijnen die werden gegeven door de leverancier. Vertrouw hier echter niet blind op en probeer ook zelf inzicht te krijgen in de werking van het AI-systeem: welke data gebruikt het AI-systeem en hoe komt het tot een bepaald resultaat.
Teamleden moeten actief bij deze stap betrokken zijn. Zij kennen de AI-tools die ze gebruiken als geen ander waardoor ze waardevolle inzichten geven in zowel de werking als de beperkingen die ze ondervinden. Bovendien is dit het ideale moment om te peilen naar het huidige niveau van AI-geletterdheid en te bepalen waar extra ondersteuning nodig is.
De risico’s moeten ten slotte ook geïdentificeerd worden. Dit begint bij een analyse van de input waarmee de AI-tool werkt. Hierbij moet er worden nagegaan welke bronnen de AI-tool gebruikt, hoe de informatie wordt verzameld en in welke mate de input gevoelige of vertrouwelijke gegevens bevat. Daarnaast verdient ook de output aandacht waarbij er bijvoorbeeld moet bekeken worden of deze leidt tot geautomatiseerde beslissingen en of er risico’s bestaan op discriminatie of foutieve conclusies.
Op basis hiervan zal het duidelijk worden welke AI-tools de grootste risico’s met zich meebrengen en waar extra aandacht nodig is. Zo kan uw onderneming gericht investeren in training en ondersteuning.

2. Een AI-training op maat : Er bestaat geen one size fits all training. Afhankelijk van de context, de AI-systemen die worden gebruikt en de bestaande kennis binnen de team(s), zal er nood zijn aan één of andere (specifieke) training.
Elk teamlid moet een basiskennis hebben om namelijk de output van AI telkens met een kritische bril te bekijken. Hoewel de snelheid waarmee AI-systemen problemen oplossen en resultaten leveren bijna magisch lijkt, is de output niet altijd foutloos. Het is niet altijd duidelijk hoe een AI-systeem tot een bepaald resultaat is gekomen en in sommige gevallen kan het systeem een verborgen vooringenomenheid bevatten of informatie verzinnen (de zogenaamde hallucinaties). Dit kan leiden tot discriminerende beslissingen, foutieve analyses of onbetrouwbare aanbevelingen met potentieel negatieve gevolgen voor uw onderneming, leveranciers of klanten.

3. Duidelijke spelregels voor AI binnen uw onderneming: een AI-beleid legt in duidelijke, en begrijpbare taal uit op welke manier teamleden, welke specifieke AI en hoe de gekozen AI binnen uw onderneming gebruikt mag worden.

Bij het opstellen van een AI-beleid is het interessant om de volgende elementen in overweging te nemen: een duidelijk omschrijving van het beoogd gebruik van AI binnen de onderneming;
een over ethisch en verantwoord AI-gebruik in lijn met de waarden van de onderneming;
een overzicht van de risico’s;
de criteria voor de beoordeling van AI-tools om na te gaan of een AI-systeem betrouwbaar is;
moeten de AI-tools eerst worden goedgekeurd door een verantwoordelijke voordat ze worden gebruikt?;
een beschrijving of opsomming van AI-systemen die niet gebruikt mogen worden;
het aanduiden van een verantwoordelijke die zal toezien op de naleving van het AI-beleid.

Risico’s en sancties bij niet-naleving

De AI Act zelf legt geen sancties op aan gebruikers die de verplichting tot AI-geletterdheid niet naleven en laat het aan de lidstaten over om hierover te beslissin. Momenteel heeft België op dit vlak nog geen concrete stappen ondernomen.
Toch kunnen ondernemingen nog steeds aansprakelijk gesteld worden als het gebrek aan AI-geletterdheid leidt tot inbreuken op andere wetgeving of schade veroorzaakt aan derden. Denk bijvoorbeeld aan schendingen van de privacywetgeving bij de verwerking van persoonsgegevens, het niet naleven van transparantieverplichtingen tegenover consumenten of inbreuken op de antidiscriminatiewet.

AI-geletterdheid biedt opportuniteiten voor uw onderneming. Door te investeren en in te zetten op AI-geletterdheid kunnen AI-systemen op een efficiëntere manier worden ingezet met betere resultaten als gevolg. Zet vandaag nog uw eerste stappen naar het verantwoord omgaan met AI. Bij AdaStone staan we klaar om u te begeleiden in uw AI Act compliance!

Beatrijs Dewijngaert - Hannah Tacheny

Daily	Freemium access
5 x week	MM e - News
1 x week	MM Brunch
1 x week	MM Tech
10 x year	MM Best of Research
10 x year	MM Blue
4 x year	MM Magazine (digital)

AI-geletterdheid verplicht onder de AI Act, ook voor uw onderneming?, door Beatrijs Dewijngaert en Hannah Tacheny (AdaStone)

Archief / TECH

Discord komt met OLV voor mobile

Gauthier Mine: "Mijn doelstelling is Displayce open te stellen voor elk type bureau dat zich aan DOOH wil wagen"

Stellar Tech neemt Duits platform Iroin over

AI wil af van auteursrecht

Klantenbetrokkenheid en data centraal bij volgende MM Tech Club

Yves Gérard (RMB), over de tweede editie van de Gaming Barometer