Il regolamento sull'IA per il retail online.

Quasi tutto quello che l'e-commerce fa con l'IA è a rischio minimo o limitato. Sistemi di raccomandazione, ranking della ricerca, previsione della domanda, prezzi dinamici sui prodotti: nessuno di questi è nominato nell'allegato III. L'esposizione sta in tre punti più stretti, e due di loro sono nei negozi fisici invece che online.

Dove atterra davvero il retail online

La domanda che da sola sposta un sistema di e-commerce da minimo ad alto rischio: a essere valutata è una persona o un prodotto? Ordinare gli SKU va bene. Assegnare un punteggio al merito creditizio di chi compra, o dedurre attributi dal suo volto, no.

La trappola del BNPL

Parecchi retailer hanno aggiunto il pagamento a rate senza considerarsi finanziatori. Se la tua piattaforma - o un modello che gestisci tu - decide o influenza in modo rilevante se a un cliente viene offerto del credito, quello è il punto 5(b) dell'allegato III, il caso ad alto rischio nominato. Profila le persone fisiche, quindi l'articolo 6(3) è chiuso.

Quando il fornitore è un terzo come Klarna, la decisione sul credito di norma è sua e tu sei deployer. Quando sei tu ad assegnare un punteggio ai clienti prima di passarli, guarda con attenzione: «influenza in modo rilevante la decisione» conta come deciderla.

Il rischio vero è in negozio

Il rilevamento delle emozioni sul personale è vietato, non regolamentato. L'articolo 5 vieta del tutto l'inferenza delle emozioni sul luogo di lavoro. I pacchetti di analytics per il retail a volte includono uno scoring del «coinvolgimento del personale» o della «qualità del servizio» a partire dai flussi delle telecamere: è quella la funzionalità da spegnere oggi.

Dedurre i dati demografici dalle telecamere - stimare l'età, il genere o l'etnia di chi entra - è categorizzazione biometrica ai sensi del punto 1 dell'allegato III, e dove tocca attributi sensibili o protetti può non essere permessa affatto. I vendor la vendono come «audience analytics»; l'etichetta non cambia la classificazione.

Contare i passaggi senza identificare di norma va bene. Contare corpi non è identificare persone.

Che cosa deve oggi ogni retailer

• Una frase nel saluto dell'assistente agli acquisti che dice che è un'IA
• Etichettatura visibile delle immagini di prodotto generate dall'IA, e una verifica che i metadati di provenienza sopravvivano alla pipeline del tuo CDN
• Una sessione di alfabetizzazione dell'articolo 4 per il personale di merchandising, CX e operazioni di negozio, verbalizzata
• Un audit di qualsiasi analytics da telecamera in negozio, per inferenza delle emozioni o dei dati demografici
• Una nota con la data di quali sistemi hai valutato e che cosa hai concluso

Qui il regolamento sull'IA si appoggia sopra il DSA, il GDPR e il diritto dei consumatori invece di sostituirli. Un sistema di raccomandazione può essere a rischio minimo ai sensi del regolamento sull'IA e portarsi comunque i doveri di trasparenza del DSA se sei una piattaforma di grandi dimensioni. I report di Reglynn segnalano le sovrapposizioni invece di trattare ogni regime come un progetto separato.

Domande frequenti

I motori di raccomandazione dei prodotti sono ad alto rischio ai sensi del regolamento sull'IA?

No. Sistemi di raccomandazione, ranking della ricerca e personalizzazione non sono un'area dell'allegato III e ai sensi del regolamento sull'IA sono di norma a rischio minimo. Lì i vincoli veri sono il GDPR e, per le piattaforme di grandi dimensioni, il regolamento sui servizi digitali (DSA).

L'IA del buy-now-pay-later è ad alto rischio?

Sì, quando decidi o influenzi in modo rilevante se il credito viene offerto. Quello è il punto 5(b) dell'allegato III, il merito creditizio, e profila le persone fisiche, quindi l'esenzione dell'articolo 6(3) è chiusa. Quando è un fornitore terzo a prendere la decisione sul credito, di norma sei deployer e non fornitore.

I prezzi dinamici sono disciplinati dal regolamento sull'IA?

Dare un prezzo a un prodotto non è valutare una persona, quindi i prezzi dinamici a livello di prodotto sono di norma a rischio minimo ai sensi del regolamento. I prezzi personalizzati basati sulla profilazione di una persona fisica sollevano questioni distinte di GDPR e di diritto dei consumatori.

Possiamo usare il riconoscimento facciale o la stima dell'età nei nostri negozi?

L'identificazione biometrica remota e la categorizzazione biometrica in base ad attributi sensibili o protetti sono usi ad alto rischio del punto 1 dell'allegato III, e solo nella misura in cui sono permessi dal diritto applicabile. Dedurre l'età, il genere o l'etnia di chi entra dai flussi delle telecamere è categorizzazione biometrica anche se viene venduta come audience analytics.

Il rilevamento delle emozioni sul personale di vendita è permesso?

No. L'articolo 5 vieta del tutto l'inferenza delle emozioni sul luogo di lavoro. I pacchetti di analytics per il retail a volte includono uno scoring del coinvolgimento del personale o della qualità del servizio a partire dai flussi delle telecamere: quella è una pratica vietata, non un rischio da documentare.