Le règlement sur l'IA pour le commerce en ligne.

L'essentiel de ce que le e-commerce fait avec l'IA relève du risque minimal ou limité. Moteurs de recommandation, classement des résultats de recherche, prévision de la demande, tarification dynamique des produits - rien de tout cela n'est nommé à l'annexe III. L'exposition se concentre en trois endroits plus étroits, et deux d'entre eux sont en magasin physique plutôt qu'en ligne.

Où atterrit réellement le commerce en ligne

La seule question qui fait passer un système d'e-commerce du minimal au haut risque : est-ce une personne que l'on évalue, ou un produit ? Classer des références, aucun problème. Noter la solvabilité de l'acheteur, ou inférer des attributs à partir de son visage, non.

Le piège du paiement fractionné

Beaucoup de détaillants ont ajouté le paiement en plusieurs fois sans jamais se penser en prêteurs. Si votre plateforme - ou un modèle que vous exploitez - décide ou influence de façon déterminante l'octroi d'un crédit à un client, c'est le point 5(b) de l'annexe III, le cas de haut risque nommé. Il profile des personnes physiques, donc l'article 6(3) est fermé.

Lorsque le fournisseur est un tiers comme Klarna, la décision de crédit lui revient en général et vous êtes déployeur. Lorsque vous notez vous-même les clients avant de les transmettre, regardez de près - « influencer de façon déterminante la décision » vaut décider.

Le vrai risque est en magasin

La détection des émotions sur le personnel est interdite, pas encadrée. L'article 5 prohibe purement et simplement l'inférence des émotions sur le lieu de travail. Les suites d'analytique pour le retail embarquent parfois une notation de l'« engagement du personnel » ou de la « qualité de service » à partir des flux caméra - c'est la fonctionnalité à couper aujourd'hui.

L'inférence démographique à partir des caméras - estimer l'âge, le genre ou l'origine ethnique d'un client - est une catégorisation biométrique au titre du point 1 de l'annexe III, et lorsqu'elle touche à des attributs sensibles ou protégés, elle peut n'être pas permise du tout. Les éditeurs vendent cela comme de l'« analytique d'audience » ; l'étiquette ne change pas la classification.

Le comptage de fréquentation sans identification ne pose en général pas de problème. Compter des corps, ce n'est pas identifier des personnes.

Ce que tout détaillant doit aujourd'hui

• Une phrase dans le message d'accueil de l'assistant d'achat disant qu'il s'agit d'une IA
• Un marquage visible des visuels produits générés par IA, et une vérification que les métadonnées de provenance survivent à votre chaîne CDN
• Une session de maîtrise de l'IA au titre de l'article 4 pour les équipes merchandising, expérience client et exploitation des magasins, avec compte rendu
• Un audit de toute analytique caméra en magasin, à la recherche d'inférence des émotions ou de données démographiques
• Une note datée indiquant quels systèmes vous avez évalués et ce que vous en avez conclu

Ici, le règlement sur l'IA se superpose au DSA, au RGPD et au droit de la consommation plutôt qu'il ne les remplace. Un moteur de recommandation peut être de risque minimal au titre du règlement sur l'IA et porter malgré tout des obligations de transparence au titre du DSA si vous êtes une grande plateforme. Les rapports Reglynn signalent les recoupements au lieu de traiter chaque régime comme un projet distinct.

Questions fréquentes

Les moteurs de recommandation de produits sont-ils à haut risque au titre du règlement sur l'IA ?

Non. La recommandation, le classement de la recherche et la personnalisation ne relèvent pas d'un domaine de l'annexe III et sont en général de risque minimal au titre du règlement sur l'IA. Vos vraies contraintes, là, sont le RGPD et, pour les grandes plateformes, le règlement sur les services numériques (DSA).

L'IA de paiement fractionné est-elle à haut risque ?

Oui, dès lors que vous décidez ou influencez de façon déterminante l'octroi du crédit. C'est le point 5(b) de l'annexe III, la solvabilité, et cela profile des personnes physiques : l'exemption de l'article 6(3) est donc fermée. Lorsque c'est un fournisseur tiers qui prend la décision de crédit, vous êtes en général déployeur plutôt que fournisseur.

La tarification dynamique est-elle encadrée par le règlement sur l'IA ?

Fixer le prix d'un produit, ce n'est pas évaluer une personne : la tarification dynamique au niveau du produit est donc en général de risque minimal au titre du règlement. Une tarification personnalisée fondée sur le profilage d'un individu soulève des questions distinctes, de RGPD et de droit de la consommation.

Pouvons-nous utiliser la reconnaissance faciale ou l'estimation de l'âge dans nos magasins ?

L'identification biométrique à distance et la catégorisation biométrique par attributs sensibles ou protégés sont des usages à haut risque du point 1 de l'annexe III, et seulement dans la mesure où le droit applicable les permet. Inférer l'âge, le genre ou l'origine ethnique d'un client à partir des flux caméra reste de la catégorisation biométrique, même vendu sous le nom d'analytique d'audience.

La détection des émotions sur le personnel de vente est-elle autorisée ?

Non. L'article 5 interdit purement et simplement l'inférence des émotions sur le lieu de travail. Les suites d'analytique pour le retail embarquent parfois une notation de l'engagement du personnel ou de la qualité de service à partir des flux caméra - c'est une pratique interdite, pas un risque documentable.