C’est peu dire que la percée fulgurante de ChatGPT et d’autres formes d’intelligence artificielle inquiète les enseignants, les journalistes et les régulateurs. Les développements ultrarapides dans ce domaine risquent même de rendre la future législation européenne AI Act bancale avant même son adoption. Et ce, en raison des dangers de manipulation et autres qu’implique la technologie générative.
L’heure est à la réflexion et à l’analyse éthique, estime l’ingénieure spécialiste de l'IA
Mieke Deketelaere (professeure à la Vlerick Business School, auteure de "Homme versus Machine", "Digital Mind" du gouvernement fédéral et, depuis peu, administrateur du groupe Springbok).
En même temps, elle souligne les atouts potentiels de l’Europe en la matière.
« Les chatbots et autres applications destinées à répliquer les comportements humains au travers de l'IA occupent une place de plus en plus importante dans nos vies. (…) Si les opportunités qu'elles offrent ont fascinantes, rappelons cependant que tout ce qui est possible n’est pas toujours souhaitable. » Ce sont là les premières phrases de la lettre ouverte publiée par la KU Leuven à la fin mars, notamment sous votre impulsion, pour mettre en garde contre les risques de l’IA. N’est-ce pas une déclaration surprenante de la part de scientifiques ?
En aucun cas. J’ai décidé d’entreprendre des études d’ingénieure civile à cause de ma fascination pour la robotique et l’IA, et ces thèmes continuent à me passionner aujourd’hui. Mais les risques liés à certaines solutions d’intelligence artificielle - comme les chatbots dits de compagnie - sont bien réels, notamment en termes de manipulation et d’impact sur les droits de l’homme, ce qui n’était évidemment jamais l’intention.
Prenez n’importe quel autre secteur, et vous verrez que toute innovation y est longuement testée avant que l’on donne le feu vert pour son lancement sur le marché. En revanche, les chatbots sont rendus accessibles au grand public sans la moindre forme de contrôle, et qui plus est en l’absence de tout cadre juridique. L’Europe se penche bel et bien sur la question, mais la proposition actuelle classe les chatbots dans la catégorie des risques "limités", alors que ceux-ci comportent en fait des risques majeurs, et donc inacceptables, en raison de leur puissance manipulatrice. Il faudrait dans un premier temps les interdire, pour ensuite les légaliser peu à peu, lorsque les développeurs auront apporté la preuve que leurs produits sont sans danger et qu’ils sont capables d’assumer la responsabilité de leur utilisation.
Dans cette lettre, vous alertez tout particulièrement sur les dangers encourus par les mineurs d'âge et les autres utilisateurs vulnérables…
C’est exact. Il faut absolument orchestrer au plus vite une campagne de sensibilisation auprès de la population et des développeurs. Sur ce point, l’éducation à tous les niveaux a également un rôle important à jouer. Enfin, nous appelons de nos vœux un débat public plus large sur la place à assigner à l’IA dans la société, non seulement à brève échéance mais aussi à plus long terme.
Cela dit, je tiens à souligner que 95% de l’IA concerne de très bons systèmes qui rendent de grands services : l’IA peut remplacer les humains dans l’exécution de tâches fastidieuses ou difficiles, voire dangereuses ou salissantes.
Pour le dire crûment, nous avons créé avec l’IA un outil qui fonctionne encore avec des piles ou à l’électricité. Nous pouvons encore le débrancher. Si nous voulons l’utiliser, nous devons aussi tenir compte des notes écrites en petits caractères. Il faut absolument mettre en place une base solide, surtout pour les non-initiés, en excluant toute approche candide.
Quelle est la position de la Belgique vis-à-vis du marché international ?
À l’échelle européenne, on peut dire que notre pays a fait des choix clairs, en accord avec ses valeurs morales et les compétences dans lesquelles il excelle. Ce n’est qu’en harmonisant ces deux réalités que l’on peut déboucher sur des solutions vraiment efficaces. Nous appelons cela la "co-optimisation". On pourrait citer l’exemple d’une entreprise comme Imec, spécialisée en microélectronique : l’IA et les puces conjuguent leurs forces. Il en va de même pour la biotechnologie ou l’industrie pharmaceutique : la Belgique peut s’enorgueillir de véritables fleurons dans ces domaines. Malheureusement, la presse en parle trop peu.
D’autre part, l’Europe ne peut plus gagner la course contre les géants américains et chinois. Les GAFAM ont misé sur l’intelligence artificielle dès 1992. Depuis, ils n’ont cessé d’alimenter leurs systèmes d’IA à l’aide d’une foule de données, contrairement à l’Europe. Nous ne pouvons plus rattraper ce retard. Il nous faut donc miser sur un autre cheval.
Ailleurs dans le monde, l’IA a donné naissance à des systèmes extrêmement centralisés. Grâce à leur puissance informatique, ceux-ci captent nos données, les traitent et les renvoient en Europe. Ces processus, qui demandent une énorme puissance de calcul, ont altéré l’objectif initial de l’Internet. L’Europe peut se concentrer sur l’IA décentralisée, également appelée "Tiny AI" ou "Edge AI", en développant des algorithmes qui permettent de laisser les données sur les dispositifs qui les génèrent - votre ordinateur, votre téléphone portable, etc. - mais en plaçant les algorithmes aux points finaux, pour y faire les analyses ou prendre les décisions voulues. Pour ce faire, nous n’avons pas besoin d’ordinateurs aussi puissants. Une telle démarche bénéficierait aussi bien à la vie privée, la latence, la connectivité et bien sûr à la planète, parce qu’elle permettrait de consommer moins d’énergie.
On pourrait penser que les progrès de l’IA influent sur les compétences requises pour le monde de demain…
Selon moi, ces compétences ne sont pas d’ordre technologique. De nos jours et dans certaines circonstances, les ordinateurs battent les humains en termes de codage. Mais les compétences critiques et créatives, les capacités de collaboration et de raisonnement, voilà ce qui manque encore à l’IA.
L’école est censée favoriser l’esprit critique, et non transformer nos enfants en robots. L’empathie me semble également être une aptitude importante pour le monde de demain. Je me considère moi-même comme une nerd extravertie qui s’interroge sur les effets de ses activités sur la planète et les êtres humains.
Est-ce la raison pour laquelle vous avez accepté de siéger au conseil d’administration de Springbok ?
J’ai toujours suivi avec beaucoup d’intérêt les développements dans les autres disciplines, et je pense que tout ingénieur doit faire preuve d’humilité. Je regarde ce qui se passe autour de moi avec les yeux d’un enfant, et pour chaque nouvelle discipline, j’essaie d’abord de découvrir les perspectives d’avenir, en me demandant quelle valeur innovatrice une collaboration pourrait apporter. C’est la raison pour laquelle j’ai rejoint le conseil d’administration de Springbok.
Cette agence spécialisée en brandtech va recourir de plus en plus intensivement à l’IA, et je suis ravie de pouvoir participer à sa réflexion sur le sujet. J’ai également été séduite par l’importance que Springbok accorde à la durabilité, qui forme comme un fil conducteur dans tout ce qu’elle entreprend. Cela correspond parfaitement à mes préoccupations, de même que l’étude de l’impact sur les individus.
Frederik Dooms cartographie l'IA belge
.png)
