Por Flávio Caetano de Paula Maimone
Nessa semana, participamos do fantástico Webinar Brasilcon: Inclusão e diversidade em tempos de hiperconectividade. Falamos sobre os vieses discriminatórios das novas tecnologias, da responsabilidade civil (indenizações) por discriminação algorítmica e a importância da aprovação do Projeto de Lei 2630/2020. Pudemos realizar muitas trocas e aprendizados com Jonas Sales, Saymon Leão e Amanda Rosendo. Nossa conversa, em breve, estará disponível no canal do Brasilcon.
LEIA TAMBÉM
Entre as várias formas de discriminação que acontecem no dia a dia do consumidor, a que mais nos chamou atenção foi o representado pelo racismo. Parece até inacreditável, mas o racismo nas relações de consumo ultrapassou as fronteiras para além do mundo presencial e alcançou o on-line.
A criação e alimentação dos algoritmos se dá por pessoas que têm seus pré-conceitos estabelecidos, têm os vieses arraigados culturalmente. A partir disso, por vezes, compras em bairros com predominante presença de pessoas negras são barradas (geoblocking) sob o pretexto de não haver entrega naquele bairro.
Racismo até no reconhecimento facial
Mas não apenas isso. Até mesmo o reconhecimento facial revela preconceito e racismo. É o que revelam estudos e matérias que já detectaram prisões injustas a partir de erros de algoritmos.
Portanto, os tais algoritmos precisam receber uma governança com revisão permanente para mitigar os riscos e, sobretudo, corrigir os vieses discriminatórios. Referida atitude aprimorará o uso para frente e deve mesmo ser tomada. Todavia, além disso é fundamental o olhar também para trás, ou seja, responsabilizar-se pelos erros já causados e pelos prejuízos gerados para consumidores, indenizando-os.
A indenização para cada pessoa discriminada deve acontecer com a transferência dos lucros ilícitos (gerados a partir de atos discriminatórios) do ofensor ao ofendido. Além disso, é fundamental a adoção dos danos sociais para que toda sociedade seja compensada pela discriminação havida.
Flávio Henrique Caetano de Paula Maimone

Advogado especialista em Direito do Consumidor, sócio do Escritório de advocacia e consultoria Caetano de Paula & Spigai | Sócio fundador da @varbusinessbeyond consultoria e mentoria em LGPD. Doutorando e Mestre em Direito Negocial com ênfase em Responsabilidade Civil na Universidade Estadual de Londrina (UEL). Diretor do Instituto Brasileiro de Política e Direito do Consumidor (BRASILCON). Associado Titular do IBERC (Instituto Brasileiro de Estudos de Responsabilidade Civil). Professor convidado de Pós Graduação em Direito Empresarial da UEL. Autor do livro “Responsabilidade civil na LGPD: efetividade na proteção de dados pessoais”. Colunista do Jornal O Londrinense. Instagram: @flaviohcpaula
Foto: Freepik
Leia mais colunas sobre Direito do Consumidor
(*) O conteúdo das colunas não reflete, necessariamente, a opinião do O LONDRINENSE.