O Regulamento da IA para o retalho online.

A maior parte do que o comércio eletrónico faz com IA é de risco mínimo ou limitado. Recomendadores, ordenação de resultados de pesquisa, previsão de procura, fixação dinâmica de preços de produtos - nada disto está nomeado no anexo III. A exposição está em três sítios mais estreitos, e dois deles são em lojas físicas, não online.

Onde aterra mesmo o retalho online

A única pergunta que move um sistema de comércio eletrónico de mínimo para risco elevado: o que está a ser avaliado é uma pessoa ou um produto? Ordenar referências não levanta problema. Pontuar a solvabilidade de quem compra, ou inferir atributos a partir do seu rosto, levanta.

A armadilha do pagamento a prestações

Muitos retalhistas acrescentaram o pagamento a prestações sem alguma vez se pensarem como financiadores. Se a tua plataforma - ou um modelo que operas - decide ou influencia materialmente se é oferecido crédito a um cliente, isso é o anexo III, ponto 5(b), o caso nomeado de risco elevado. Define perfis de pessoas singulares, logo o artigo 6(3) está fechado.

Quando quem presta o serviço é um terceiro como a Klarna, a decisão de crédito é normalmente dessa entidade e tu és responsável pela implantação. Quando és tu a pontuar os clientes antes de os encaminhares, olha com atenção - "influenciar materialmente a decisão" conta como decidir.

O risco a sério está na loja física

A deteção de emoções sobre o pessoal é proibida, não é regulada. O artigo 5 proíbe pura e simplesmente a inferência de emoções no local de trabalho. Os pacotes de análise para retalho incluem por vezes pontuação de "envolvimento do pessoal" ou de "qualidade do serviço" a partir de imagens de câmaras - é essa a funcionalidade a desligar hoje.

A inferência demográfica a partir de câmaras - estimar a idade, o sexo ou a etnia de quem compra - é categorização biométrica ao abrigo do anexo III, ponto 1, e, quando toca em atributos sensíveis ou protegidos, pode não ser sequer permitida. Quem a vende chama-lhe "análise de audiências"; o rótulo não muda a classificação.

A contagem de afluência sem identificação é em geral aceitável. Contar corpos não é identificar pessoas.

O que todo o retalhista deve hoje

• Uma frase na saudação do assistente de compras a dizer que é uma IA
• Etiquetagem visível das imagens de produto geradas por IA, e uma verificação de que os metadados de proveniência sobrevivem ao teu pipeline de CDN
• Uma sessão de literacia do artigo 4 para o pessoal de comercial, de apoio ao cliente e de operações de loja, com ata
• Uma auditoria a qualquer análise de câmaras na loja, à procura de inferência de emoções ou demográfica
• Uma nota datada dos sistemas que avaliaste e daquilo que concluíste

O Regulamento da IA assenta aqui sobre o DSA, o RGPD e o direito do consumo, em vez de os substituir. Um recomendador pode ser de risco mínimo no Regulamento da IA e continuar a ter deveres de transparência do DSA se fores uma plataforma de grande dimensão. Os relatórios da Reglynn assinalam as sobreposições em vez de tratarem cada regime como um projeto separado.

Perguntas frequentes

Os motores de recomendação de produtos são de risco elevado no Regulamento da IA?

Não. Os recomendadores, a ordenação de pesquisa e a personalização não são um domínio do anexo III e são em geral de risco mínimo no Regulamento da IA. As tuas verdadeiras restrições aí são o RGPD e, para as plataformas de grande dimensão, o Regulamento dos Serviços Digitais.

A IA do pagamento a prestações é de risco elevado?

Sim, quando decides ou influencias materialmente se é oferecido crédito. Isso é o anexo III, ponto 5(b), solvabilidade, e define perfis de pessoas singulares, pelo que a isenção do artigo 6(3) está fechada. Quando é um prestador terceiro a tomar a decisão de crédito, és normalmente o responsável pela implantação e não o prestador.

A fixação dinâmica de preços é regulada pelo Regulamento da IA?

Fixar o preço de um produto não é avaliar uma pessoa, por isso a fixação dinâmica de preços ao nível do produto é em geral de risco mínimo no regulamento. A fixação de preços personalizada com base na definição do perfil de uma pessoa levanta questões próprias de RGPD e de direito do consumo.

Podemos usar reconhecimento facial ou estimativa de idade nas nossas lojas?

A identificação biométrica à distância e a categorização biométrica por atributos sensíveis ou protegidos são usos de risco elevado do anexo III, ponto 1, e apenas na medida em que sejam sequer permitidos pelo direito aplicável. Inferir a idade, o sexo ou a etnia de quem compra a partir de imagens de câmaras é categorização biométrica, mesmo que seja vendida como análise de audiências.

A deteção de emoções sobre o pessoal de loja é permitida?

Não. O artigo 5 proíbe pura e simplesmente a inferência de emoções no local de trabalho. Os pacotes de análise para retalho incluem por vezes pontuação do envolvimento do pessoal ou da qualidade do serviço a partir de imagens de câmaras - isso é uma prática proibida, não um risco documentável.