La startup de reconnaissance faciale Clearview AI défendait que son app n'était accessible qu'aux forces de l'ordre. C'est faux, et son usage dans le cadre privé soulève des questions d'éthiques encore plus nombreuses.

Chaque semaine amène son lot de révélations sur Clearview AI. Début janvier, le New York Times a placé sous les projecteurs son outil de reconnaissance faciale qui se nourrit de plus de 3 milliards de photos piochées sur les réseaux sociaux et le web. Jusqu’ici, la défense de la startup face aux questions éthiques soulevées par sa technologie s’articulait autour d’un argument : la reconnaissance faciale ne serait vendue qu’aux forces de l’ordre, et ne serait utilisée que par des professionnels de la sécurité comme outil d’enquête.

Sauf que cet argument s’effrite de semaine en semaine : le New York Times a révélé hier qu’une poignée de riches individus, entre autres des investisseurs et des proches des fondateurs, disposent de l’application depuis plus d’un an.

Clearview peut lier une photo de vous avec toutes les photos de votre visage disponible en ligne. Elles sont accompagnées par les informations liées à leur source : profession, nom, prénom, adresse… // Source : Capture de Black Mirror saison 3 épisode 1 sur Netflix

Donner l’application pour attirer l’intérêt des investisseurs

Les millionnaires qui ont Clearview l’utilisent dans le cadre privé, pour une finalité bien loin de l’unique usage sécuritaire. Le NYT donne l’exemple du milliardaire John Catsimatidis, qui s’en est servi pour identifier un homme avec qui sa fille avait un rendez-vous amoureux. Si le septuagénaire dispose de l’app sur son smartphone personnel, c’est parce qu’il a testé la technologie dans un de ses supermarchés Gristedes, dans le but d’identifier les voleurs à l’étalage. « Des personnes volaient nos Häagen-Dazs [une marque de glace, ndlr]. C’était un gros problème », a-t-il défendu au journal américain.

Plus tôt dans la semaine, Buzzfeed avait mis la main sur la liste des clients de l’entreprise, qui a également été volée par un hacker. Clearview compte 2 228 clients, deux fois plus que ce qu’elle affirmait publiquement. Surtout, ce ne sont pas uniquement des organisations représentantes des forces de l’ordre, comme le FBI ou différentes polices locales. Le site américain a révélé que Macy’s (produits de beauté), Kohl’s (vêtements), la NBA (ligue de basketball) ou encore des universités avaient testé la technologie, parmi de nombreuses organisation sans rapport avec les forces de l’ordre. De même, alors que Clearview défendait n’avoir des clients qu’en Amérique du Nord, elle en dans 27 pays, dont plusieurs pays de l’Union européenne. Vraisemblablement, le RGPD ne fait pas peur à tout le monde.

Un des plus gros fonds d’investissement américain a testé l’app

« Nous avons donné des comptes d’essais à nos potentiels et actuels investisseurs, ainsi qu’à d’autres partenaires stratégiques, pour qu’ils puissent tester la technologie  », concède le cofondateur de Clearview, Hoan Ton-That au NYT.

Donner l’application aux investisseurs et aux potentiels clients pour qu’ils jouent avec a permis de rapidement faire connaître Clearview dans cet entre-soi de millionnaires. Résultat : quand la startup a bouclé sa première levée de fonds en 2019, elle avait été approchée par Sequoia, un des plus puissants fonds d’investissement américain, dont un des membres avait testé l’app.

La ligne de défense de Clearview continue de s’effriter

Depuis que Clearview a une image publique, elle doit se justifier auprès de plusieurs acteurs, sur le plan éthique, mais aussi légal. Facebook, Twitter et Google ont envoyé des lettres de mise en demeure et invoqué le respect des conditions d’utilisation de leur site pour que la startup arrête d’aspirer les images qu’ils hébergent. Des utilisateurs dans l’Illinois et en Virginie ont déposé des recours collectifs pour exiger le retrait de leurs photos et l’arrêt de la collecte. Au Congrès américain, plusieurs sénateurs et députés ont demandé des comptes à la startup.

L’entreprise s’était déjà fait épingler pour avoir promu un usage abusif de sa technologie auprès de ses clients : les commerciaux de Clearview conseillaient de tester l’application sur les amis et la famille des utilisateurs. Sans insister sur le fait que toute photo téléchargée sur l’application rejoint la base de données de Clearview, et est accessible par les autres utilisateurs.

Une app réservée à des « professionnels entraînés » ? Loin de là

La startup avait publié son code de conduite sur son site, le 27 janvier 2020, mais il ne semble pas correspondre à la réalité : « Nous sommes conscients que des outils aussi puissants ont toujours le potentiel d’être utilisés de façon abusive, peu importe qui les utilise, et nous prenons cette menace très au sérieux. Concrètement, l’app Clearview a des outils de contrôle interne pour s’assurer que ces professionnels entraînés ne l’utilisent que pour son usage prévu : aider à identifier les criminels et les victimes de crimes ».

Malgré ces révélations successives, le dirigeant de Clearview garde sa ligne de défense : son application ne ferait que répliquer ce que font les moteurs de recherche, avec une recherche par nom au lieu d’une recherche par image.

Clearview dispose tout de même d’un module pour être conforme au California Consumer Privacy Act, l’équivalent californien du règlement général sur la protection des données européen. Grâce à la procédure, une journaliste de Vice s’est procuré une copie de la dizaine d’images que Clearview possédait d’elle. La startup s’est engagée à les supprimer et à ne pas en collecter de nouvelles, conformément à la loi.

Article publié initialement le 6 march 2020 et mis à jour le 11 may 2020

Partager sur les réseaux sociaux