in

IBM arrête de travailler sur la reconnaissance faciale en raison de problèmes liés aux droits humains

La lettre de Krishna faisait partie d’un appel plus large lancé au Congrès pour qu’il pousse à une plus grande responsabilisation de la police et conduise des réformes, y compris certaines qui faisaient déjà partie de la loi de 2020 sur la justice dans les services de police récemment introduite.

Cette décision intervient au milieu des protestations contre la violence et la discrimination policières, et peu de temps après que la reconnaissance faciale de Clearview AI ait soulevé des problèmes de confidentialité et de parti pris. Plus d’un rapport a indiqué que les systèmes de reconnaissance faciale peuvent être biaisés contre les non-blancs et les femmes, en particulier si les données de formation incluent relativement peu de personnes de ces groupes. Et tandis que certains systèmes de reconnaissance faciale peuvent uniquement corréler les visages avec des données accessibles au public, il est à craindre que cela puisse être utilisé pour le suivi et la génération de profils qui pourraient être utilisés pour intimider les gens ou autrement limiter leur vie privée.

Comme l’a noté CNBC, il est relativement facile pour IBM de reculer lorsque la reconnaissance faciale n’était pas un contributeur majeur à ses résultats. Le buzz médiatique peut être aussi important que n’importe quoi. IBM est toujours une grande entreprise, cependant, et elle travaille fréquemment avec les gouvernements. Cela pourrait inciter d’autres fournisseurs à emboîter le pas, et pourrait même amener certains clients potentiels à abandonner complètement la reconnaissance faciale.