Les modèles d’intelligence artificielle manquent de transparence, selon une étude publiée mercredi qui vise à guider les décideurs politiques dans la régulation de cette technologie en pleine croissance. Des chercheurs de l’Université de Stanford ont élaboré un “Indice de transparence des modèles fondamentaux” qui classe les 10 principales entreprises d’IA. Le meilleur score – 54% – a été attribué à Llama 2, le modèle d’IA lancé par Meta, propriétaire de Facebook et Instagram, en juillet. GPT-4, le modèle phare de la société OpenAI soutenue par Microsoft, qui a créé le célèbre chatbot ChatGPT, se classe troisième avec un score de 48%. PaLM 2 de Google est cinquième avec 40%, juste devant Claude 2 de la société Anthropic soutenue par Amazon avec 36%. Rishi Bommasani, chercheur au Centre de recherche sur les modèles fondamentaux de Stanford, a déclaré que les entreprises devraient viser un score compris entre 80 et 100%. Les chercheurs ont déclaré que “moins de transparence rend plus difficile” pour les décideurs politiques de concevoir des politiques significatives pour encadrer cette technologie puissante. Cela rend également plus difficile pour les autres entreprises de savoir si elles peuvent compter sur la technologie pour leurs propres applications, pour les universitaires de mener des recherches et pour les consommateurs de comprendre les limites des modèles, ont-ils déclaré. “Si vous n’avez pas de transparence, les régulateurs ne peuvent même pas poser les bonnes questions, encore moins agir dans ces domaines”, a déclaré Bommasani. L’émergence de l’IA a suscité à la fois l’enthousiasme pour ses promesses technologiques et des préoccupations quant à son impact potentiel sur la société. L’étude de Stanford indique que aucune entreprise ne fournit d’informations sur le nombre d’utilisateurs dépendant de leur modèle ou sur les lieux géographiques où ils sont utilisés. La plupart des entreprises d’IA ne divulguent pas la quantité de matériel protégé par des droits d’auteur utilisée dans leurs modèles, ont déclaré les chercheurs. “Pour de nombreux décideurs politiques de l’UE ainsi que des États-Unis, du Royaume-Uni, de la Chine, du Canada, du G7 et d’un large éventail d’autres gouvernements, la transparence est une priorité politique majeure”, a déclaré Bommasani. L’UE est à l’avant-garde de la réglementation de l’IA et vise à approuver la première loi mondiale sur cette technologie d’ici la fin de l’année. Le Groupe des Sept a appelé à des mesures sur l’IA lors d’un sommet au Japon plus tôt cette année et la Grande-Bretagne organise un sommet international sur la question en novembre. – AFP Relaxnews
Amazon investit 4 milliards dans Anthropic : un pas décisif pour l’avenir de l’IA !
novembre 22, 2024
Aucun commentaire
