Nl

TRAINING&BOOKS

SXSW 24 : la boussole éthique d'OpenAI, par Danny Devriendt (IPG Dynamics)

Jeudi 14 Mars 2024

SXSW 24 : la boussole éthique d'OpenAI, par Danny Devriendt (IPG Dynamics)

La communauté tech était en ébullition au SXSW aujourd’hui, avant l’une des interventions les plus attendues sur le pouvoir transformatif de l’intelligence artificielle. Peter Deng, le visionnaire VP of Consumer Productd’OpenAI et l’un des esprits stratégiques derrière ChatGPT, est sur le devant de la scène. Devant un public passionné, il a abordé les progrès de l’IA, mais aussi les conversations éthiques et stratégiques nuancées qui accompagnent cette évolution technologique.

L’engagement de Peter Deng en faveur d’une technologie au service de la résolution des problèmes du monde réel, combiné à ses réussites tangibles dans l’industrie technologique, font de lui une figure centrale dans la poursuite de la mission d’OpenAI, pour faire de l’IA un outil utile et accessible à un public mondial, plutôt qu’un lointain rêve high-tech.
À l’heure de la concrétisation, ne jamais sous-estimer le côté obscur

La séance suscite anticipation et curiosité, et a été l’occasion d’aborder les multiples facettes de l’impact de l’IA sur la société, allant des merveilles de l’augmentation créative au côté obscur des scams facilités par le deepfake. Peter Deng a fait face à des questions qui ont percé le voile de l’euphorie technologique, révélant le volet moins enchanteur des responsabilités portées par les pionniers à la frontière de l’IA. Même si la technologie est développée avec les meilleures intentions, il y aura toujours un revers de la médaille... la nature humaine est ainsi faite.

La technologie du deepfake, avec sa capacité à brouiller les frontières entre vérité et invention, est apparue comme un sujet de préoccupation majeur. Peter Deng a reconnu la gravité du dommage sociétal potentiel, affirmant toute l’attention et la vigilance d’OpenAI en la matière. « C’est vraiment un sujet qui nous inquiète », a-t-il admis, capturant ainsi l’appréhension collective face aux potentiels les plus sombres de la technologie. Cette reconnaissance n’était pas un aveu de défaite, mais plutôt une déclaration de l’engagement d’OpenAI en faveur d’une gestion éthique dans le domaine de l’IA. Deepfake, hallucinations, application automatique de biais, plagiat... il y a beaucoup à gérer, beaucoup à protéger.

Le discours de Peter Deng est néanmoins allé au-delà de la simple reconnaissance, lorsqu’il a plaidé en faveur d’une approche mesurée de l’innovation qui donne la priorité au bien-être de la société dans son ensemble, en tant qu’individus et entreprises. « L’approche que nous avons adoptée pour diffuser notre technologie est plutôt prudente », a-t-il confié au public d’une salle D pleine à craquer, reflétant la philosophie d’OpenAI d’un progrès réfléchi, transparent et responsable.

Cette philosophie souligne un impératif plus large au sein de la communauté tech : le besoin de peser les dommages potentiels des nouveaux logiciels par rapport à leurs avantages, pour s’assurer que les progrès servent à améliorer le tissu social plutôt qu’à l’ébranler. « L’éthique par la conception », comme John Havens, directeur de l’initiative mondiale de l’IEEE pour les considérations éthiques de l’IA, l’aurait formulé...

La conversation a aussi dévié sur le domaine de l’intégrité artistique et de la juste rémunération, un sujet qui trouve un écho profond au sein de la (très présente) communauté créative. Alors que l’IA utilise de plus en plus la vaste étendue de la créativité humaine pour entraîner ses algorithmes, la question de la rémunération des artistes dont le travail contribue à cette évolution pèse dans les esprits. Les réponses de Peter Deng, tout en naviguant dans les complexités de cette problématique, ont débouché sur un dialogue qui transcende les aspects techniques et touche au respect fondamental des contributions créatives à l’ère de l’IA.

Engagement à garder une version gratuite des produits

Le discours visionnaire de Peter Deng met aussi en évidence un aspect essentiel de la mission d’OpenAI, rempli de considérations éthiques, sociétales et technologiques : la promesse de toujours proposer une version gratuite de ses produits, y compris ChatGPT. Cet engagement témoigne de la volonté d’OpenAI de réduire la fracture numérique et de démocratiser l’accès aux technologies de pointe de l’IA. En faisant en sorte qu’une version de ses outils d’IA reste gratuite, OpenAI admet le caractère profondément essentiel de l’inclusivité à l’ère numérique, en reconnaissant que le pouvoir transformatif de l’IA devrait être une ressource universelle, et non un privilège réservé à une poignée d’élus.

Cet engagement est plus qu’une promesse d’entreprise, c’est le reflet d’un positionnement éthique plus large qui valorise l’autonomisation des individus et des communautés à travers le monde. À une époque où la technologie façonne de plus en plus tous les aspects de la société, il est essentiel de garantir un accès équitable aux outils d’IA pour empêcher l’aggravation des inégalités existantes. L’approche d’OpenAI aborde une inquiétude fondamentale à l’ère numérique : le risque d’exacerber la fracture numérique, ce qui ne ferait que creuser l’écart pour ceux qui n’ont pas accès aux dernières technologies.

De plus, en proposant une version gratuite de ses produits d’IA, OpenAI catalyse l’innovation et la créativité dans divers secteurs. Les entrepreneurs, éducateurs, artistes et chercheurs issus de milieux sous-représentés ou économiquement désavantagés obtiennent la possibilité d’exploiter la puissance de l’IA, ce qui favorise un paysage plus inclusif de l’innovation. Cette accessibilité est essentielle pour encourager un large éventail de voix et perspectives dans le développement et l’application de l’IA, enrichissant l’écosystème d’une multiplicité d’enseignements et de solutions aux défis mondiaux. Elle permet aussi une génération automatique de données et points de vue qui calibrent et équilibrent la vision du monde de ChatGPT. 

Responsabilité sociale

L’engagement d’OpenAI à garder une version gratuite de ses produits reflète une profonde compréhension des responsabilités sociétales qui accompagnent le leadership dans le développement de l’IA, et sert de repère pour montrer aux entreprises comment elles peuvent contribuer à un avenir plus équitable, plus inclusif et plus soucieux de l’éthique.

Peter Deng encourage aussi plus largement les leaders de la société et des entreprises à adopter ces nouvelles technologies et à aider à leur acculturation. Il va falloir des leaders politiques, humains et techniques visionnaires pour transformer les avantages potentiels de cette technologie émergente en facteur d’augmentation pour l’être humain.

Peter Deng a esquissé une vision globale de l’intelligence artificielle, admettant la capacité de la technologie à révolutionner divers aspects de la vie tout en tenant compte des défis éthiques, organisationnels, culturels et économiques qu’elle pose. OpenAI devient un symbole d’avancées révolutionnaires, qui s’engage activement dans le développement et l’application responsables de la technologie. Cette approche positionne OpenAI comme un acteur clé de l’évolution des paysages technologiques, des environnements de travail, et plus largement du contexte sociétal, démontrant un engagement en faveur d’une innovation réfléchie et du bien-être des générations futures.

Cet avenir est un futur où l’IA amplifie notre humanité, où la créativité se développe sans entraves et où les considérations éthiques guident la voie du progrès. À l’aube d’une nouvelle ère de l’IA, les perspectives de Peter Deng offrent une feuille de route pour naviguer dans les méandres de l’innovation avec intégrité, pour nous aider à nous aventurer dans ce domaine encore inconnu avec prudence, circonspection et un profond respect pour l’essence humaine qui étaye nos aspirations technologiques.

Donc bon, ce n’est pas Skynet, au final…

Archive / TRAINING&BOOKS