Amazon est à la pointe sur l’intelligence artificielle – y compris les technologies de reconnaissance faciale. / PASCAL ROSSIGNOL / Reuters

Après plusieurs semaines de critiques, la police d’Orlando (Floride) a annoncé lundi 25 juin que le programme pilote de reconnaissance faciale qu’elle menait depuis 2017 avec la technologie Rekognition d’Amazon avait pris fin la semaine précédente.

La polémique avait commencé en mai, quand l’American Civil Liberties Union (ACLU – « Union américaine pour les libertés civiles »), puissante ONG américaine de défense des libertés civiles, avait publié une série de documents, notamment des correspondances entre Amazon et plusieurs polices locales états-uniennes, sur la façon dont ces dernières utilisaient Rekognition.

Amazon explique que ce programme est en mesure d’aider les enquêteurs en reconnaissant par exemple les suspects dans des photos ou des vidéos. Mais les détracteurs de cette technologie craignent ses dérives. Elle pourrait, selon eux, être utilisée pour la surveillance de masse ou pour identifier des manifestants. Ils redoutent aussi des erreurs – des études ont montré que ces programmes étaient plus susceptibles de se tromper pour identifier les visages de personnes non blanches.

En mai, une trentaine d’associations s’étaient jointes à l’ACLU pour demander à Jeff Bezos, le patron d’Amazon, de cesser de fournir cette technologie aux autorités. En réaction à cette lettre, Amazon s’était défendu dans un communiqué cité par The Verge : « Amazon Rekognition a de nombreuses applications utiles dans le monde réel. Notre qualité de vie serait bien pire aujourd’hui si nous interdisions une nouvelle technologie parce que certaines personnes pourraient choisir d’en abuser. »

« Nous voulons avoir notre mot à dire sur ce que nous fabriquons »

Des employés d’Amazon se sont également mobilisés en juin, demandant à M. Bezos de ne plus vendre Rekognition à la police, mais aussi de ne plus travailler avec la police de l’immigration (Immigration and Customs Enforcement, ICE) et Palantir, une entreprise spécialisée dans les technologies de surveillance. « En tant qu’amazoniens soucieux d’éthique, nous voulons avoir notre mot à dire sur ce que nous fabriquons, et sur la façon dont cela est utilisé », peut-on lire dans la lettre qu’ils lui ont envoyée.

« Nous avons appris du passé, et nous savons comment les systèmes d’IBM ont été utilisés dans les années 1940 pour aider Hitler. IBM n’a pas pris ses responsabilités à l’époque, et le temps qu’on comprenne leur rôle dans tout cela, c’était trop tard. Nous ne laisserons pas ça arriver à nouveau. C’est maintenant qu’il faut agir. »

Lundi, l’ACLU de Floride avait à nouveau fait pression sur les autorités, dans une lettre adressée au maire d’Orlando, lui reprochant notamment d’avoir déployé cette technologie « sans débat public ».

A Orlando, Rekognition pourrait revenir

La police d’Orlando s’était déjà défendue, après les révélations de l’ACLU, assurant que Rekognition ne serait « jamais utilisée pour pister des citoyens quelconques, des migrants, des militants ou des personnes de couleur ». Dans une conférence de presse, elle avait alors juré que le programme pilote se limitait pour l’instant « à voir simplement si cela fonctionne » et que seuls les officiers de police volontaires avaient servi de cobayes pour être identifiés.

Bien que le programme pilote soit terminé, la police d’Orlando ne ferme pas la porte au retour de cette technologie, expliquant dans un communiqué commun avec la mairie que la réflexion continuait.

« La ville d’Orlando est constamment à la recherche de nouvelles solutions pour assurer la sécurité de nos résidents et nos visiteurs. Mener des partenariats avec des entreprises innovantes pour tester leurs dernières technologies – tout en nous assurant du respect des lois sur la vie privée – est crucial. »

D’autres départements de police, aux Etats-Unis, continuent de travailler avec cette technologie, comme dans l’Oregon. Certains, en Arizona ou en Californie, auraient aussi signifié leur intérêt, selon les documents de l’ACLU.