Dat de pijlsnelle doorbraak van ChatGPT en andere artificiële intelligentievormen leraars, journalisten en regelgevers zorgen baart, is een understatement. Dat hij de toekomstige AI Act van de EU nog voor zijn goedkeuring inaccuraat maakt, wellicht een feit. Dat heeft alles te maken met het manipulatieve potentieel van generatieve technologie en de daaraan verbonden risico’s. Hoog tijd voor bezinning en ethische analyse, aldus ingenieur Mieke De Ketelaere (Vlerick Business School, auteur van Mens en Machine en digital mind voor de federale overheid) die van de gelegenheid gebruikmaakt Europa te wijzen op zijn potentiële troeven.
“Chatbots en AI-toepassingen veroveren een steeds grotere plek in ons leven. Wat de laatste AI-doorbraken mogelijk maken is fascinerend, maar het feit dat iets mogelijk is, maakt het nog niet wenselijk”, zo begint de open brief die de KU Leuven twee weken geleden mede op jouw initiatief verstuurde om te waarschuwen voor de risico’s van AI. Is dat geen verrassende uitspraak voor een wetenschapper?
Neen. Ik ben burgerlijk ingenieur gaan studeren vanuit mijn fascinatie voor robotica en AI. Die passie koester ik nog steeds, maar de risico’s van enkele AI-oplossingen, namelijk de gezelschapschatbots, zijn de dag van vandaag reëel, meer bepaald met betrekking tot manipulatie en negatieve impact op mensenrechten. Dit was natuurlijk nooit de bedoeling.
Als je kijkt naar eender welke andere sector, stel je vast dat alles daar grondig getest wordt voor het op de markt mag komen. Chatbots daarentegen worden gewoon zonder enige vorm van controle op de wereld losgelaten, zonder enig wettelijk kader bovendien. Daar wordt weliswaar door Europa aan gewerkt, maar in het huidige voorstel zijn deze chatbots ondergebracht in de schaal van ‘beperkte’ risico’s, terwijl ze wegens hun manipulatieve kracht in de categorie van de hoogste en dus onaanvaardbare risico’s thuishoren en dus principieel verboden zouden moeten worden. Ze zouden enkel stapsgewijs gelegaliseerd mogen worden, als de ontwikkelaars kunnen aantonen dat hun creaties veilig zijn en de verantwoordelijkheid voor het gebruik opnemen.
In de brief waarschuwen jullie vooral voor de gevaren bij minderjarigen en andere kwetsbare gebruikers.
Klopt. Daarom moet er zo snel mogelijk een sensibiliseringcampagne op poten gezet worden, naar de bevolking en naar de ontwikkelaars. Hierbij is ook een belangrijke rol weggelegd voor het onderwijs, op alle niveaus. Tot slot roepen we op tot een breder publiek debat over de rol die we aan AI willen toebedelen in de maatschappij, niet enkel op korte, maar ook op langere termijn.
Los daarvan wil ik er toch op wijzen dat 95% van de AI zeer goede systemen betreft die nuttig zijn om allerlei taken te volbrengen: AI kan vervelende of moeilijke taken overnemen, het kan ook gevaarlijke en vuile taken vervullen.
Cru gesteld is AI een tool die we gemaakt hebben en die nog steeds werkt op batterijen of stroom. Je kunt hem dus ook gewoon afzetten. Als we er wel gebruik van willen maken, moeten we bereid zijn de kleine lettertjes te lezen. Een basis is noodzakelijk, zeker voor leken, en naïef zijn is uit den boze.
Hoe situeert België zich in feite tegenover de internationale markt?
Als je kijkt op Europees vlak, kun je stellen dat we in België mooie, duidelijke keuzes gemaakt hebben die dicht aanleunen bij disciplines waarop we sterk staan. Hoe meer je die op elkaar kunt afstemmen vanuit een multi-disciplinaire achtergrond, hoe beter de oplossingen die je krijgt. Co-optimalisatie noemen we dat. Denk daarbij aan voorbeelden in de biotech of de farmaceutische industrie: daar kan België prat gaan op heel mooie use cases. Die verhalen halen de actualiteit helaas te weinig.
Anderzijds kunnen we met Europa de race tegen de grote jongens in de Verenigde Staten en China niet meer winnen. De Gafam geloofden al vanaf ’92 in artificiële intelligentie en hebben sindsdien hun AI-systemen getraind met heel veel data, in tegenstelling tot Europa. Die achterstand kunnen we niet meer inhalen.
Dus we moeten we op iets anders inzetten. AI oplossingen maken vandaag de dag vaak gebruik van onze gecentraliseerde data die in andere delen van de wereld wordt opgeslaan. Die systemen kunnen razendsnel een analyse uitvoeren door de enorme rekenkracht die ze ter beschikking hebben. Op basis van deze analyse gaan ze dan een actie terugsturen naar de eindgebruiker hier in Europa. Dat was niet de bedoeling van het internet. Europa kan zich toeleggen op gedecentraliseerde en “Edge” AI , door algoritmes te ontwikkelen, die het mogelijk maken de data te laten waar ze vandaan komen (op je computer, gsm, …), maar de algoritmes direct te plaatsen om analyses uit te voeren en beslissingen te nemen op deze eindpunten. Dan hebben we die grote computerpower niet nodig. Dat is goed voor de privacy, de latency, de connectiviteit en uiteindelijke ook voor de planeet, want veel rekenkracht verbruikt veel energie.
Je zou denken dat de opmars van AI een impact heeft op de vereiste skills voor de wereld van morgen.
Dat zijn volgens mij geen technologische kwaliteiten. Computers kunnen op dit moment in sommige contexten beter coderen dan een mens. Maar kritische en creatieve skills, collaboratieve skills en redeneervermogen, dat ontbeert AI nog. De school is bedoeld om het kritische denkvermogen te cultiveren, niet om robots te maken van onze kinderen. Ook inlevingsvermogen lijkt me een belangrijke skill in de wereld van morgen. Ik omschrijf mezelf graag als een extraverte nerd en bij al wat ik doe, vraag ik me af wat dit betekent voor de planeet en de mens.
Is dat waarom je toezegde om te zetelen in de raad van bestuur van Springbok?
Ik kijk altijd met heel veel belangstelling naar andere disciplines: als ingenieur stel ik me altijd heel nederig op. Bij elke nieuwe discipline ga ik eerst luisteren naar de toekomstvisie en stel ik me dan de vraag welke innovatieve waarde een nieuwe samenwerking zou kunnen opbrengen. Vandaar dat ik in de raad van bestuur van Springbok gestapt ben. Brandtech, waar Springbok voor staat, gaat steeds meer werken met die technologie, dus ik vond het heel fijn toen ze me vroegen om mee na te denken. Ik was ook helemaal weg van het belang van sustainability dat als een rode draad doorheen alles wat ze doen loopt. Dat, en de aandacht die ze hebben voor de impact op de mens, sluit helemaal aan bij wie ik ben.
Kathleen Peeters (Deloitte): "Implementatie is meestal niet het moeilijkste: dat is zoals het licht aansteken"
