Fr

TECH

AI Act: tussen vrees en controle

Donderdag 17 Oktober 2024

AI Act: tussen vrees en controle

In augustus werd de Europese AI Act van kracht met de bedoeling geharmoniseerde regels op te stellen voor AI-systemen zodat ze geen bedreiging vormen voor de maatschappij. Een lovenswaardig en noodzakelijk initiatief dat er weliswaar ook toe leidde dat bepaalde technologiebedrijven zoals Meta en Apple hun AI-modellen nog niet in Europa hebben uitgerold. Kwestie van mogelijke boetes - 35 million euro of 7% van de globale jaaromzet - te vermijden, nietwaar?

Maar goed ook voor hun portemonnee, zo blijkt nu. De toonaangevende modellen voor generatieve kunstmatige intelligentie (GenAI), waaronder OpenAI, Meta en Anthropic, voldoen immers niet volledig aan de Europese AI-regels, zoals blijkt uit de resultaten van een onderzoek met de ‘LLM Checker’.

De Large Language Model Checker is een initiatief van de Zwitserse start-up LatticeFlow AI in samenwerking met onderzoeksinstituten ETH Zürich en het Bulgaarse Institute for Computer Science, AI and Technology (INSAIT) en wordt omschreven als het eerste evaluatiekader voor de naleving van de EU AI Act voor GenAI.

De tool keek naar AI-modellen ontwikkeld door Alibaba, Anthropic, OpenAI, Meta en Mistral AI, die allemaal een gemiddelde score van 0,75 (op 1) of hoger kregen. De hoogste gemiddelde score was voor Claude 3 Opus van Anthropic (0,89).

Die gemiddelde scores verhullen dus ook verschillende tekortkomingen, bijvoorbeeld op het vlak van discriminatie op basis van bias. Het raamwerk moet het voor AI-bedrijven makkelijker maken om hiaten te identificeren en bij te sturen om zich toch aan de regels te kunnen houden.

Een begrijpelijke vorm van controledrang natuurlijk, want AI heeft nu eenmaal een alomvattende impact op ons professionele en privéleven. Toch zijn regels – hoe duidelijk en praktisch ook – niet de enige manier om AI een plaats te geven. “AI is onbekend terrein en jaagt angst aan, dus proberen mensen allerlei regels te verzinnen om het te reguleren. Maar AI is overal en in feite moeten we ons niet bezighouden met de bedreiging die AI zou kunnen vormen, wel met het feit dat we niet voorbereid zijn op de praktische aspecten”, aldus de Britse journalist, auteur en spreker David Rowan (oprichter van Wired UK) die begin september het nieuwe seizoen van The Merode kwam aftrappen met een keynote over artificiële intelligentie en het relatieve belang van regulering. “We moeten AI zien als een extra stuk gereedschap in onze gereedschapskist”, aldus Rowan. “Als elektriciteit”. Waarop hij benadrukte dat de disruptie – of we dat nu willen of niet – er sowieso komt. En dat we ons dus moeten voorbereiden op verandering.

Die zal ongetwijfeld gepaard gaan met “nevenschade”: werkloosheid door automatisering, het verlies van privacy en meerdere ethische dilemma’s. “There will be blood”, zei de man daarover, maar mits goed gebruikt opent AI allerlei mogelijkheden. “Choose optimism. Dan ontstaat magie, dan kunnen de reële en belangrijke problemen van deze tijd, zoals die van het klimaat of onze gezondheid, worden opgelost.”

Zullen we hopen dat hij gelijk heeft?

Archief / TECH