Le journal Le Temps nous apprend que Coop a mis en place des caméras de surveillance dopées à l’intelligence artificielle. Une annonce qui soulève de nombreuses inquiétudes, non seulement sur le plan technologique, en termes de respect de nos droits fondamentaux, mais aussi des libertés individuelles et de la législation en vigueur.

https://www.letemps.ch/cyber/intelligence-artificielle/exclusif-en-toute-discretion-coop-a-deploye-des-cameras-intelligentes-dans-certains-magasins

Exclusif – En toute discrétion, Coop a déployé des caméras «intelligentes» dans certains magasins – Le Temps

Le géant orange entend prévenir le vol grâce à l’intelligence artificielle mais se refuse à détailler son dispositif. Plusieurs spécialistes pointent du doigt des risques et s’étonnent d’une démarche peu transparente

Ce qui interpelle particulièrement, c’est la légèreté avec laquelle Coop semble traiter cette question. Alors que le Préposé fédéral à la protection des données et à la transparence (PFPDT) attend des réponses, nous nous proposons ici de faire un tour d’horizon des risques et des obligations en prenant comme référence, la législation la plus proche de nous: l’EU AI Act, réglementation européenne qui sert aujourd’hui de référence en matière d’encadrement de l’intelligence artificielle, mais aussi la nLPD dans le domaine de la protection de données. D’autant plus que le Conseil fédéral vient de prendre position sur la réglementation des IAs.

https://algorithmwatch.ch/fr/prise-position-etat-des-lieux-ia

Réglementation de l’IA: un Conseil fédéral timide – AlgorithmWatch CH

Le Conseil fédéral veut réglementer l’Intelligence artificielle. La décision de principe qu’il a prise aujourd’hui va dans la bonne direction, mais c’est un pas timide et peu ambitieux. Un jour après le Sommet pour l’action sur l’IA de Paris et à une époque où la concentration du pouvoir au sein des groupes technologiques et de leurs propriétaires a pris des proportions inquiétantes, le Conseil fédéral devrait agir de manière plus déterminée et mettre les intérêts de la population au centre, pour protéger de manière globale les droits fondamentaux, la démocratie et la durabilité en lien avec l’utilisation de l’IA. AlgorithmWatch CH présente les mesures qui seraient nécessaires à cet effet de manière détaillée dans sa propre analyse.

Alors quels sont les problèmes?

1. Transparence : une obligation ignorée

La transparence ne concerne pas seulement les obligations du droit européen, mais aussi la nouvelle Loi fédérale sur la protection des données (nLPD) en Suisse. Celle-ci impose clairement aux entreprises d’informer les personnes concernées lorsque des données sont collectées et traitées, tout en garantissant un consentement éclairé de leur part.

Cela signifie qu’une notification claire et visible doit signaler aux clients de Coop la présence de ces caméras intelligentes et leur fonctionnement. Il est également essentiel que cette information précise si les données sont stockées, comment elles sont traitées et pour combien de temps. Sans cela, l’installation est déjà en infraction.

2. Discrimination et biais algorithmiques

Les systèmes d’intelligence artificielle sont souvent formés sur des bases de données peu diversifiées, ce qui les rend peu représentatives. De plus, ces bases de données peuvent être biaisées non seulement par leur contenu, mais aussi par la manière dont elles sont préparées et utilisées. Une fois présents, ces biais entraînent des discriminations systématiques, en violation des lois suisses interdisant la discrimination.

Si ces caméras sont capables d’identifier des comportements suspects, sur quels critères reposent ces analyses ? Qui décide des paramètres de « normalité » et quelles sont les conséquences pour les clients honnêtes ou non ?

3. Documentation et garanties : un manque d’informations critiques

Actuellement, aucune information précise n’a été fournie par Coop concernant les technologies employées. Ce manque de transparence est particulièrement problématique :

• Quels sont les outils d’intelligence artificielle utilisés ?
• Quelles évaluations internes et indépendantes ont été menées sur ces systèmes ?
• Quel est le taux de faux positifs et de faux négatifs ?
• Quels recours les clients ont-ils en cas d’erreur ?

Sans réponses claires à ces questions, nous sommes face à une boîte noire technologique, où la décision de savoir si un comportement est suspect repose sur un technologie opaque.

Coop a-t-elle même les réponses à ces questions ?

Un doute encore plus profond plane sur cette affaire : les responsables, cadres, techniciens et employés concernés de COOP ont-ils eux-mêmes les réponses à ces interrogations ? Ont-ils conscience des implications de ces technologies, ou s’agit-il d’une mise en place inconsidérée sans réelle mesure des risques ?

Le Parti Pirate Vaudois attend avec impatience une clarification de la part de COOP et la mise en conformité stricte des règles en matière de protection des données et de libertés individuelles. 

Pour les Pirates, l’implantation de systèmes de surveillance algorithmique fait dans l’opacité est, par définition, un mépris des droits fondamentaux des citoyens.

 Bonus: Des questions à se poser pour toutes mise en place d’outils algorithmiques ?

• L’IA utilisée a-t-elle un taux de faux positifs élevé ?
• Les personnes sont-elles correctement informées de l’existence et du fonctionnement du système ?
• Quels recours sont prévus en cas de fausse accusation ?
• Comment évite-t-on les biais discriminatoires dans la détection des comportements suspects ?
• Faire la vérification de conformité avec EU https://artificialintelligenceact.eu/fr/evaluation/verificateur-de-conformite-a-l-acte-de-l-ai-de-l-ue/ 
• Surtout: en a-t-on vraiment besoin ??

Bonus: Aussi dans la presse romande:

• Blick: https://www.blick.ch/fr/suisse/lutte-contre-les-voleurs-coop-vous-espionne-discretement-avec-des-cameras-dopees-a-lia-id20609881.html
• Watson: https://www.watson.ch/fr/suisse/coop/654612825-coop-vous-surveille-grace-a-des-cameras-intelligentes
• La Côte: https://www.lacote.ch/suisse/des-cameras-intelligentes-pour-lutter-contre-le-vol-dans-certains-magasins-coop-1441585

Bonus: Articles scientifiques sur le sujet

• https://www.ultralytics.com/fr/blog/computer-vision-for-theft-prevention-enhancing-security
• https://seechange.com/self-checkout-security/
• AI-Driven Self-Checkout Statistics and Theft Trends: https://easyflow.tech/self-checkout-statistics-theft-trends/
• Could the Self-Checkout Ruin Your Reputation: https://mindmatters.ai/2022/07/could-the-self-checkout-ruin-your-reputation/