ClearView met son système controversé de reconnaissance faciale à disposition de l’Ukraine

Selon une déclaration de Hoan Ton-That, l’entrepreneur australien co-fondateur de ClearView AI, le ministère ukrainien de la Défense a commencé à utiliser le système de reconnaissance faciale de la société américaine mis à sa disposition gratuitement pour combattre l’envahisseur russe. La startup américaine a proposé à l’Ukraine d’utiliser son outil pour profiler les assaillants russes, pour lutter contre la désinformation, pour réunir les familles de réfugiés et pour identifier ses morts. L’aide de la firme new-yorkaise interpelle dans la mesure où l’outil est régulièrement pointé du doigt pour violation des principes relatifs à la protection des données et en outre, n’est pas fiable à 100%. Et lorsqu’il y a une marge d’erreur, gare aux dérives.

Face au conflit l’opposant à la Russie, l’Ukraine peut compter sur l’aide logistique de plusieurs entreprises américaines. Elon Musk, notamment, a fait parvenir plusieurs lots de centaines de kits Starlink, des terminaux et des antennes permettant de se connecter à Internet via sa nouvelle constellation de satellites. C’est à présent le système de reconnaissance faciale, ClearView, qui vient en soutien aux autorités ukrainiennes.

Pour rappel, le logiciel collecte des milliards d’images sur Internet et, plus spécifiquement, sur les réseaux sociaux, par exemple lorsque les profils sont accessibles à tous. La pratique, baptisée scrapping, consiste à aspirer massivement des données disponibles en ligne. L’entreprise commercialise ensuite cette base de données qui se présente sous la forme d’un moteur de recherche. Parmi ces innombrables images, 2 milliards proviennent de VKontakte ou VK, un site de réseautage social russe similaire à Facebook.

Une technologie sous le feu des critiques

Le système ClearView est principalement vendu aux forces de l’ordre. Si ce logiciel de reconnaissance faciale de l’entreprise permet d’aider l’Ukraine, il est toutefois fortement critiqué dans plusieurs pays par rapport à la manière dont les images sont collectées. ClearView AI est notamment dans le viseur pour violation des principes relatifs la protection des données. Ainsi, en mai 2021, un groupe d’ONG, mené par Privacy International, a porté plainte contre ClearView AI en France, en Grèce, en Autriche, en Italie et au Royaume-Uni pour le mettre en demeure de se conformer au RGPD. L’Italie et le Royaume-Uni lui ont, dans la foulée, infligé de lourdes amendes tandis que la Suède et l’Australie l’ont complètement interdite.

 Un outil de guerre dangereux

« Par ailleurs, aucune technologie de reconnaissance faciale existante n’est aujourd’hui fiable à 100%, L’utilisation de ClearView AI pour détecter des agents russes peut avoir des effets pervers » a déclaré par voie de presse, Albert Fox Cahn, directeur général du Surveillance Technology Oversight Project (S.T.O.P.). « Nous allons voir une technologie avec de bonnes intentions, mais qui risque de se retourner contre nous en blessant, par erreur, les personnes mêmes qu’elle est censée protéger. ».

Pour lui, l’utilisation de Clearview AI pour identifier les morts est la seule piste valable. De son côté, Hoan Ton-That a précisé que « Clearview ne devrait jamais être utilisé comme seule source d’identification et qu’il ne voudrait pas que la technologie soit utilisée en violation des Conventions de Genève, qui ont créé des normes juridiques pour le traitement humanitaire pendant la guerre ». Garder le bon curseur ne semble pas à tout le moins évident.