Des experts en intelligence artificielle mettent en garde contre un risque d’extinction
Des scientifiques et des technologues de premier plan ont averti que l’intelligence artificielle (IA) représente un « risque d’extinction » qui nécessite une action mondiale. « La réduction du risque d’extinction de l’IA devrait être une priorité mondiale, tout comme les risques à l’échelle de la société tels que les pandémies et la guerre nucléaire », ont déclaré un groupe d’experts en IA et d’autres personnalités de premier plan dans une brève déclaration publiée mardi par le Center for AI Safety, un groupe de recherche et de défense basé à San Francisco. Les signataires incluent des experts en technologie tels que Sam Altman, PDG d’OpenAI, Geoffrey Hinton, connu sous le nom de « parrain de l’IA », et Audrey Tang, ministre numérique de Taïwan, ainsi que d’autres personnalités notables telles que le neuroscientifique Sam Harris et la musicienne Grimes.
Un avertissement qui fait suite à une lettre ouverte signée par Elon Musk et d’autres personnalités de premier plan en mars dernier, appelant à une pause de six mois dans le développement de l’IA plus avancée que le GPT-4 d’OpenAI. « Les systèmes d’IA puissants ne devraient être développés que lorsque nous sommes convaincus que leurs effets seront positifs et que leurs risques seront gérables », indique la lettre.
Bien que l’IA actuelle n’ait pas encore atteint l’intelligence artificielle générale (AGI), qui pourrait potentiellement lui permettre de prendre des décisions indépendantes, des chercheurs de Microsoft ont déclaré en mars que le GPT-4 montrait des « étincelles d’AGI » et était capable de résoudre des tâches « nouvelles et difficiles qui couvrent les mathématiques, la programmation, la vision, la médecine, le droit, la psychologie et plus encore, sans avoir besoin d’aucune incitation spéciale ».
Les craintes concernant les conséquences négatives potentielles de l’IA pour la société, allant des pertes d’emplois massives à l’infraction de droits d’auteur, en passant par la propagation de la désinformation et l’instabilité politique, ont augmenté ces derniers temps. Certains experts ont exprimé leur crainte que l’humanité ne perde un jour le contrôle de la technologie.
Des réglementations pour l’IA
Les États-Unis et d’autres pays s’efforcent de trouver un équilibre entre la nécessité de surveillance et la technologie prometteuse. L’Union européenne a déclaré qu’elle espérait adopter une législation d’ici la fin de l’année qui classerait l’IA en quatre catégories basées sur les risques. La Chine a également pris des mesures pour réglementer l’IA, en adoptant une législation sur les deep fakes et en exigeant que les entreprises enregistrent leurs algorithmes auprès des régulateurs. Beijing a également proposé des règles strictes pour restreindre le contenu politiquement sensible et exiger que les développeurs obtiennent l’approbation avant de publier des technologies basées sur l’IA générative.
