D’un côté le président d’IBM annonce, dans un lettre au Congrès américain, que Big Blue ne fournira plus de logiciels de reconnaissance faciale. De l’autre, Amazon lance un moratoire d’un an sur l’utilisation par la police de Rekognition. Des revirements importants pour les deux géants, sur fond de mouvements anti-racistes consécutifs au meurtre de Georges Floyd.
Un mort et une flambée “d’émeutes raciales” auront été nécessaires pour que certains géants de la tech américains revoient leurs positions sur l’utilisation par les forces de l’ordre de certaines technologies, reconnaissance faciale en tête. Ainsi, IBM a annoncé, dans un courrier de son nouveau patron Arvind Krishna au Congrès américain, qu’il ne commercialisera plus de logiciels de reconnaissance ou d'analyse faciale. “IBM s'oppose fermement et ne tolérera pas l'utilisation de toute technologie, y compris la technologie de reconnaissance faciale offerte par d'autres fournisseurs, pour la surveillance de masse, le profilage racial, les violations des droits et libertés” écrit Arvind Krishna.
Amazon lui a emboîté le pas. Dans un communiqué, l’entreprise explique qu’elle implémente un moratoire d’un an sur l’utilisation par la police de sa technologie de reconnaissance faciale. “Nous avons préconisé que les gouvernements mettent en place des réglementations plus strictes pour réguler l'utilisation éthique des technologies de reconnaissance faciale” écrit le géant. “Ces derniers jours, le Congrès semble prêt à relever ce défi. Nous espérons que ce moratoire d'un an pourrait donner au Congrès suffisamment de temps pour mettre en œuvre les règles appropriées, et nous sommes prêts à aider si nécessaire”.
Biais raciaux des algorithmes
Des positions relativement neuves chez les deux géants. Chez IBM d’abord, la technologie de reconnaissance faciale avait fait scandale sur des questions de droit à l’image. Si Big Blue avait mis en avant un fichier contenant un million de clichés de visages, destinés à « faire progresser l'étude de l'équité et de la précision des technologies de reconnaissance faciale », NBC avait démontré que les photographies ont été exploitées sans le consentement des personnes représentées, sans même qu’elles ou les photographes soient au courant du traitement de leurs images.
Du côté d’Amazon, le débat était sur un tout autre registre, puisque l’entreprise de Jeff Bezos fournissait Rekognition, son outil de reconnaissance faciale, à certaines polices américaines. Au grand dam des associations de défense des libertés civiques, ACLU en tête, qui écrivait alors qu’Amazon Rekognition “est prêt pour tous les abus entre les mains des gouvernements. Ce produit constitue une grave menace pour les communautés, y compris les personnes de couleur et les migrants”.