Un peu partout sur la planète, les usages de la reconnaissance faciale se multiplient. Des technologies développées par les géants du secteur, souvent mises à profit par les forces de l'ordre. Trop c'est trop ?
Pour AmazonAmazon, il va sans doute être temps de faire des choix. 50 chercheurs en intelligence artificielle, dont un lauréat du prix Turing, ont demandé à l'entreprise de Jeff Bezos de ne plus vendre sa technologie à la police. En jeu ? Les biais et leurs conséquences.
La reconnaissance faciale d'Amazon dans le viseur
Pourquoi cette véritable fronde ? Plusieurs affaires ont déjà montré les limites de la technologie développée par Amazon. Mais, surtout, ils peuvent s'appuyer sur plusieurs études qui montrent que les femmes et les personnes de couleur sont plus susceptibles d'être le sujet d'erreurs. Son service, disponible grâce aux services de cloud d'Amazon Web Services, permet notamment de scanner d'importants flux d'images pour les comparer avec des bases de données. Le système de reconnaissance faciale, utilisé par les polices d'Oregon et d'Orlando (Floride), souffre d'un biais simple, celui de ses concepteurs, des hommes blancs.
Selon une étude du MIT, dans 19 % des cas le logiciel avait pris des femmes pour des hommes et 31% quand ces femmes avaient la peau foncée. De mauvais résultats pour cette reconnaissance faciale largement supérieurs à ceux de la concurrence, IBM et Microsoft notamment. Amazon n'a pas retouché son logiciel face aux critiques, invitant les forces de l'ordre à faire preuve de transparence dans leurs usages et demandant la mise en place d'un cadre législatif.
- Partager l'article :
