IBM et reconnaissance faciale: "Nous ne devons pas nous arrêter là" - Internet Sans Frontières
La société IBM a annoncé le 8 juin 2020 l’arrêt du développement de ses technologies de reconnaissance faciale. Une décision qui intervient en plein débat aux États-Unis sur les violences policières racistes, suite à la mort tragique de George Floyd. Pour mieux comprendre l’amplitude de cette décision, nous avons parlé à trois spécialistes de l’Intelligence Artificielle et Non-Resident Fellows à l’Université de Stanford : Mutale Nkonde, Fondatrice d’AI for the People, également chercheuse au Berkman Klein Center d’Harvard, Tawana Petty, directrice du Data Justice Program pour le Detroit Community Technology Project.
Qu’est ce que la décision d’IBM va concrètement changer ?
Mutale Nkonde: La décision d’IBM envoie un message clair à l’industrie : la commercialisation de technologies de reconnaissance faciale est problématique. Cette décision va aider les défenseurs des droits de l’homme à militer pour la création de normes au sein de l’industrie. Des études ont montré que les technologies de reconnaissance faciale identifient correctement les visages de femmes de couleurs seulement 35% du temps, alors qu’elles reconnaissent les visages d’hommes blancs 99% du temps.
Tawana Petty: Tout à fait, l’abandon par IBM du développement de technologie de reconnaissance faciale est la preuve du pouvoir de la recherche, du message, et de l’organisation des communautés. L’etude de Joy Buolamini de l’Algorithmic Justice League et ses collègues du MIT a donné aux organisateurs de communautés tels que moi les arguments scientifiques sur les dangers de ces outils.
Mutale Nkonde: N’oublions pas le passif de violations des droits de l’homme d’IBM – ils fournissaient des machines à cartes perforées à l’Allemagne Nazie. Donc pour eux d’inverser une histoire aussi terrible envers les minorités est énorme. Mais nous ne devons pas nous arrêter là. Nous devons continuer à demander des comptes à IBM, à vérifier tous les contrats que l’entreprise a signé avec la police, afin de s’assurer qu’IBM pense vraiment que “Black Lives Matter” (La vie des noirs compte – NDLR).
IBM n’est pas la seule entreprise à vendre de la reconnaissance faciale aux autorités de police…
Mutale Nkonde: Oui, Amazon* aussi. Son PDG, Jeff Bezos, a fait des déclarations, mais sa filiale Ring, qui produit des sonnettes à reconnaissance faciale, est toujours sous contrat avec 1200 autorités de police à travers les États-Unis. Clearview AI, Microsoft ont également fait des déclarations publiques, mais continuent de vendre la reconnaissance faciale aux forces de l’ordre. Si toutes ces entreprises veulent vraiment être du côté de ceux qui font partie du mouvement Defund the Police (qui vise à réduire le budget alloué à la police pour mieux financer les projets de justice sociale – NDLR), elles devront rompre ces contrats avec ces agences.
La reconnaissance faciale est également utilisée ailleurs dans le monde, notamment en Europe et en Afrique, quels conseils pouvez vous prodiguer aux défenseurs de droits de l’homme sur ces questions ?
Mutale Nkonde: Il faut des connexions entre eux et des groupes comme AI for the people et d’autres qui travaillent sur les questions de justice raciale dans la technologie aux États-Unis. Nous devons partager nos connaissances, on retrouve la reconnaissance faciale dans tellement de domaines ! Nous devons également identifier des alliés hors de la communauté des défenseurs des droits : la presse, les organisations internationales, et même au sein des gouvernements.
Tawana Petty: Nous avons fait d’énormes progrès dans la lutte contre la reconnaissance faciale, notamment en ce qui concerne son utilisation par la police. Nous avons une occasion historique de poursuivre sur cette lancée. IBM n’est peut-être pas le plus grand acteur du marché en ce qui concerne cette technologie, mais ils peuvent montrer la voie aux plus grands acteurs.
* Mise à jour : Après la réalisation de cet entretien, Amazon a annoncé suspendre l’utilisation de sa reconnaissance faciale par la police pendant un an.