Les experts en intelligence artificielle ont déclaré lors de la conférence Reuters MOMENTUM cette semaine que les avancées rapides de l’intelligence artificielle ont le potentiel d’exacerber les problèmes sociétaux et même de poser une menace existentielle à la vie humaine, ce qui accroît le besoin d’une réglementation mondiale. L’explosion de l’IA générative – qui peut créer du texte, des photos et des vidéos en réponse à des demandes ouvertes – ces derniers mois a suscité à la fois de l’excitation quant à son potentiel et des craintes quant à sa capacité à rendre certains emplois obsolètes, à bouleverser les économies et même à surpasser les humains.
« Il faut que nous fassions attention car nous sommes en train de foncer sur l’autoroute de l’IA », a déclaré Ian Swanson, PDG et co-fondateur de Protect AI, qui aide les entreprises à sécuriser leurs systèmes d’IA et d’apprentissage automatique, lors d’un panel Reuters MOMENTUM mardi. « Alors que devons-nous faire ? Nous devons effectuer des vérifications de sécurité. Nous devons faire l’entretien de base approprié et nous avons besoin de réglementation. »
Les régulateurs n’ont qu’à regarder les plateformes de médias sociaux pour comprendre comment la croissance incontrôlée d’une nouvelle industrie peut entraîner des conséquences négatives, comme la création d’une chambre d’écho d’informations, a déclaré Seth Dobrin, président de l’Institut de l’IA responsable. « Si nous élargissons la fracture numérique… cela va conduire à la perturbation de la société », a déclaré Dobrin. « Les régulateurs doivent y réfléchir. »
La réglementation est déjà en préparation dans plusieurs pays pour aborder les problèmes liés à l’IA. Par exemple, le projet de loi sur l’IA proposé par l’Union européenne classerait les applications d’IA en différents niveaux de risque, interdisant les utilisations considérées comme « inacceptables » et soumettant les applications à « haut risque » à des évaluations rigoureuses. Les législateurs américains ont également présenté le mois dernier deux projets de loi axés sur l’IA, l’un exigeant que le gouvernement américain soit transparent lors de l’utilisation de l’IA pour interagir avec les personnes et l’autre établissant un bureau chargé de déterminer si les États-Unis restent compétitifs dans les dernières technologies.
Une menace émergente à laquelle les législateurs et les dirigeants technologiques doivent se prémunir est la possibilité que l’IA rende les armes nucléaires encore plus puissantes, a déclaré Anthony Aguirre, fondateur et directeur exécutif de l’Institut de l’avenir de la vie, lors d’une interview à la conférence. Le développement d’une IA de plus en plus puissante risque également d’éliminer des emplois à un point tel qu’il pourrait être impossible pour les humains d’apprendre de nouvelles compétences et de se reconvertir dans d’autres industries. « Nous allons finir dans un monde où nos compétences seront sans importance », a-t-il déclaré.
L’Institut de l’avenir de la vie, une organisation à but non lucratif visant à réduire les risques catastrophiques liés à l’intelligence artificielle avancée, a fait les gros titres en mars lorsqu’il a publié une lettre ouverte appelant à une pause de six mois dans la formation de systèmes d’IA plus puissants que le GPT-4 d’OpenAI. Il a averti que les laboratoires d’IA étaient « engagés dans une course incontrôlée » pour développer des « esprits numériques puissants que personne – pas même leurs créateurs – ne peut comprendre, prédire ou contrôler de manière fiable ».
« Il semble évident de ne pas mettre l’IA dans le commandement et le contrôle nucléaires », a-t-il déclaré. « Cela ne signifie pas que nous ne le ferons pas. »
