Les dangers de l’intelligence artificielle
Le pionnier de l’intelligence artificielle, Geoffrey Hinton, a exprimé ses inquiétudes quant aux conséquences potentielles de l’IA et de l’apprentissage automatique. Il a démissionné de son poste chez Google en mai dernier, craignant que l’IA ne devienne plus intelligente que les humains et ne provoque des pertes d’emplois massives. Les dirigeants de l’industrie technologique ont également signé une lettre appelant à une pause de six mois dans les avancées de l’IA, de peur que nous ne développions des esprits non humains qui pourraient finir par nous surpasser et nous remplacer.
Cependant, une étude publiée dans Science Advances a montré que l’IA peut être un juge plus sévère des publications sur les réseaux sociaux que les humains. Les modérateurs d’IA sont souvent utilisés pour traiter les plaintes et les rapports générés par les milliards d’utilisateurs des réseaux sociaux, mais ils ne reproduisent pas toujours les décisions humaines en matière de violation des règles. De plus, l’IA est susceptible de prendre des décisions plus sévères que les humains si elle n’est pas formée avec les bonnes données.
Marzyeh Ghassemi, professeur adjoint au Massachusetts Institute of Technology (MIT), a averti que les systèmes d’IA pourraient avoir des modérations extrêmement sévères, bien plus que ce que les humains feraient. Les modèles d’IA ne reproduisent pas les jugements humains déjà biaisés, car les données sur lesquelles ils sont formés sont elles-mêmes biaisées.
En fin de compte, les conséquences de l’IA pourraient être graves, avec des pertes d’emplois massives et une perte de contrôle sur notre civilisation. Les modérateurs d’IA pourraient également devenir plus sévères que les humains, ce qui pourrait avoir des conséquences imprévues pour les utilisateurs des réseaux sociaux.
