Artificiële intelligentie (AI) is niet langer voorbehouden aan experts of hightech laboratoria: ze is ondertussen een volwaardig onderdeel van het dagelijkse bedrijfsleven - ongeacht de omvang of het vakgebied - dat klantrelaties transformeert en bedrijfsmodellen herdefinieert. Hoewel deze ontwikkeling veelbelovende perspectieven opent, geeft ze ook aanleiding tot bezorgdheid over de potentiële risico’s en brengt ze nieuwe verantwoordelijkheden met zich mee.
De Europese AI Act die op 1 augustus 2024 in werking trad, is bedoeld om deze uitdagingen het hoofd te bieden door duidelijke richtlijnen te bieden voor AI-ontwikkelaars en -gebruikers en tegelijkertijd bedrijfsinnovatie aan te moedigen.
De AI Act creëert een kader van verantwoordelijkheden en verplichtingen voor AI-spelers, gebaseerd op
zeven sterke ethische beginselen. Dat moet betrouwbare AI garanderen door de grondrechten van Europese burgers te beschermen en de risico's van bepaalde AI-systemen te beperken.
Leveranciers, invoerders, distributeurs, fabrikanten, officiële vertegenwoordigers en ontwikkelaars, … ze zijn allemaal onderworpen aan strikte verplichtingen, al naargelang hun rol en het risiconiveau van het AI-systeem dat ze creëren, leveren of gebruiken.
Bedrijven die AI-systemen gebruiken, worden soms omschreven als ‘implementator’ en soms als ‘leverancier’ (als ze actief betrokken zijn bij de ontwikkeling van het AI-systeem en het onder hun eigen naam integreren). Terwijl de leverancier vaak wordt gezien als de hoofdverantwoordelijke voor het AI-systeem, speelt de implementator een essentiële rol in de toepassing en de goede werking ervan. Deze gedeelde verantwoordelijkheid rechtvaardigt de specifieke aandacht die de AI Act aan hen besteedt.
Hierna volgen zes essentiële stappen die je bedrijf kunnen helpen AI op ethische en verantwoorde wijze te integreren in de bedrijfsactiviteiten.
1. Identificeer de noden en de gebruikte AI-systemen en bepaal de risico’s Het is belangrijk om te bepalen wat je precies nodig hebt als het om AI gaat en een volledige lijst op te stellen van de producten of diensten in je bedrijf die gebaseerd zijn op AI-systemen, ongeacht of ze bedoeld zijn voor intern of extern gebruik.
Identificeer vervolgens de specifieke functies van elk van deze systemen (bijv. geautomatiseerde besluitvorming, gepersonaliseerde aanbevelingen, enz.)
De AI Act rangschikt AI-systemen op basis van het risico dat ze vormen voor de veiligheid en de grondrechten:
-
Verboden AI-systemen. Dat zijn systemen die een onaanvaardbaar risico vormen, omdat ze bijvoorbeeld subliminale technieken gebruiken om gedrag te manipuleren of misbruik maken van kwetsbaardere posities wegens leeftijd, beperking of sociaaleconomische status.
-
AI-systemen met hoog risico. Het gebruik van dit soort AI is toegestaan, mits het aan strenge eisen voldoet, aangezien er risico’s met betrekking tot de veiligheid of de grondrechten mee verbonden zijn. Het gaat vaak om AI die wordt gebruikt binnen gevoelige domeinen, zoals gezondheid, justitie, rekrutering en krediet. Hieronder vallen systemen die automatisch persoonsgegevens verwerken om verschillende aspecten van iemands leven te beoordelen (werk, migratie, onderwijs, enz.).
-
AI-systemen met beperkt risico. Hieronder vallen chatbots of technologie voor het genereren van kunstmatige inhoud (zoals deep fakes). Er wordt vanuit gegaan dat deze systemen gepaard gaan met risico's van manipulatie of impact op het vertrouwen van de gebruiker met zich mee te brengen. Gebruikers moeten ervan op de hoogte worden gesteld dat ze interageren met een machine, zodat ze weloverwogen beslissingen kunnen nemen.
-
AI-systemen met minimaal of geen risico. In deze categorie vallen alle andere AI-systemen die geen bijzondere maatregelen vereisen en daarom vrij kunnen worden gebruikt, zoals spamfilters en AI-gestuurde games, evenals algoritmen die vergelijkbare producten voorstellen op e-commerceplatforms.
Hoewel alleen exploitanten van AI-systemen met hoog en beperkt risico door de AI Act aan strikte verplichtingen onderworpen zijn, moedigt de wet de toepassing van de zeven ethische beginselen aan bij het ontwerp en gebruik van alle AI-systemen.
2. Controleer conformiteit en stel een contractueel kader op Zodra de behoeften en risico’s duidelijk zijn, is het raadzaam om na te gaan of de leveranciers van de gebruikte AI-systemen conform zijn met de wetgeving en of ze garanties bieden.
Certificeringen (ISO) of externe audits kunnen in aanmerking komen als bewijs van naleving.
De volgende essentiële stap omvat de analyse van de algemene voorwaarden of de start van besprekingen en onderhandelingen met de partners die de AI-systemen leveren, verdelen of invoeren, om te controleren of je belangen voldoende beschermd worden. Als onderhandelingen mogelijk zijn, is het raadzaam om nalevingsclausules en garanties op te nemen en de verplichtingen van de betrokken partijen te specificeren.
Als er hoge risico's worden vastgesteld en het niet mogelijk is om je bedrijf contractueel te beschermen tegen eventuele aansprakelijkheid, overweeg dan om het interne gebruik van het betreffende AI-systeem te verbieden (aan de hand van een zwarte lijst van de AI-systemen waarvan de risico's niet kunnen worden beheerst).
In dit verband dient bijzondere aandacht te worden besteed aan lopende contracten met klanten en eventuele andere partners van het bedrijf om deze waar nodig aan te passen, meer bepaald om (indien nodig gedeelde) aansprakelijkheidsclausules op te nemen met betrekking tot het gebruik van AI-systemen.
3. Zorg voor transparantie Transparantie over het gebruik van AI is essentieel om een klimaat van vertrouwen te creëren.
Dit betekent dat klanten, partners en, indien van toepassing, werknemers geïnformeerd moeten worden over de manier waarop AI ingezet wordt, bijvoorbeeld voor dataverwerking of content creatie. Door de rol van algoritmen en hun doelstellingen duidelijk uit te leggen, bevorderen bedrijven het gevoel van veiligheid en autonomie bij hun klanten en partners. Een dergelijke transparantie getuigt ook van de ethische betrokkenheid van het bedrijf, met name op het gebied van vertrouwelijkheid en respect voor individuele rechten. Al die aspecten versterken de geloofwaardigheid en trouw op lange termijn.
Het recht op toelichting en - waar nodig - de mogelijkheid om beslissingen op basis van AI aan te vechten, versterken de transparantie en rechtvaardigheid van het systeem, creëren een klimaat van vertrouwen rond het gebruik van AI en laten zien dat het bedrijf zich inzet voor ethische en verantwoorde praktijken. Het is daarom aan te raden om een duidelijk communicatiebeleid op te stellen om betrokkenen te informeren over het gebruik van AI-systemen.
4. Duid een verantwoordelijke voor de AI-conformiteit aan De aanstelling van een AI Compliance Officer (AIO) versterkt de garantie op een ethisch en legaal gebruik van AI. Deze sleutelrol centraliseert het beheer van AI-gerelateerde risico's en zorgt ervoor dat de gebruikte systemen voldoen aan de huidige regelgeving (zoals de AI Act, de GDPR en auteursrechtwetgeving).
De AIO is verantwoordelijk voor de opleiding van teams, de opvolging van de wettelijke ontwikkelingen en de implementatie van interne validatieprocessen om ervoor te zorgen dat de gebruikte AI-systemen regelmatig worden beoordeeld en gevalideerd.
Door een duidelijk bestuur in te stellen, helpt de AIO om vertrouwen op te bouwen bij klanten en partners, terwijl het bedrijf beschermd wordt tegen mogelijke rechtszaken en reputatieschade. Deze proactieve aanpak is cruciaal in een steeds veranderend technologisch landschap, waar ethische en regelgevingskwesties steeds belangrijker worden.
5. Sensibiliseer teams en leid ze op Bewustmaking en training van je teams zijn essentieel voor een ethisch en consistent gebruik van AI binnen je bedrijf. Door je medewerkers te trainen in de ethische risico's en wettelijke verplichtingen die gepaard gaan met AI, worden ze zich bewuster van de specifieke uitdagingen die gepaard deze technologieën met zich meebrengen.
Om een duidelijk kader te voorzien, kun je een ethisch handvest voor AI opstellen dat definieert hoe AI-systemen gebruikt kunnen worden. Dat behandelt belangrijke kwesties zoals de soorten gegevens die wel en niet gebruikt kunnen worden, en kan ook specifieke aanbevelingen doen. Aarzel niet om je teams te betrekken bij het opstellen van het handvest om je te verzekeren van hun steun.
AI is voortdurend in ontwikkeling, dus regelmatige workshops over wetgevende en technologische ontwikkelingen zijn ook ten zeerste aan te raden.
6. Respecteer persoonlijke gegevens Om AI veilig te integreren, moet een bedrijf sterke protocollen opstellen om AI-gegevens en -systemen te beschermen. Dit begint met de implementatie van strikte toegangscontroles (bijvoorbeeld het gebruik van wachtwoorden en het beperken van de toegang tot gekwalificeerd personeel of personeel met een legitieme toegangsbehoefte). Het is ook essentieel om maatregelen te nemen voor het wissen, anonimiseren en/of versleutelen van persoonsgegevens die worden gebruikt om het gebruikte AI-systeem te verrijken.
Het instellen van mechanismen voor voortdurende monitoring en het uitvoeren van audits en betrouwbaarheidstest zijn cruciaal voor de opsporing van afwijkingen en de naleving van beveiligings- en vertrouwelijkheidsnormen. Deze controles versterken de weerstand van AI tegen cyberbedreigingen en zorgen voor een snelle reactie op veranderingen in de regelgeving of maatschappij.
Handel voor ethische en verantwoorde AI De AI-wet betekent een beslissend keerpunt in de ethische en verantwoorde integratie van kunstmatige intelligentie binnen bedrijven.
Door deze zes belangrijke stappen in je bedrijf te implementeren, zorg je ervoor dat AI een strategische aanwinst wordt die de grondrechten respecteert. Dit zal helpen om een harmonieuze omgeving te creëren waarin ethiek en technologie elkaar versterken, waardoor het vertrouwen van je klanten en partners in de toekomst van je projecten wordt geconsolideerd, evenals het vertrouwen van je werknemers in je bedrijf waarmee ze zich zullen kunnen identificeren.
Wacht niet langer om actie te ondernemen! Pas deze best practices vandaag nog toe om je bedrijf te positioneren als een toonbeeld van ethiek en innovatie in een wereld waarin AI nu een centrale plaats inneemt. Bij
Adastone staan we aan je zijde om je te helpen deze praktijken te implementeren.
Impressies uit Azië door Cédric Cauderlier 
.png)
