O PROBLEMA DA DISCRIMINAÇÃO ALGORÍTMICA COMO DESAFIO AOS DIREITOS HUMANOS

Resumo

Em matéria de comércio eletrônico, é comum o uso de algoritmos, que geram a competição entre diversos agentes econômicos, o que gera uma falsa impressão de liberdade de escolha para os consumidores. Falsa porque os algoritmos são controlados e manipulados por grandes empresas, que dominam a informação e a dinâmica de mercado. Conforme foram se sintonizando mais com a realidade, os computadores deixaram de fornecer apenas algoritmos que os usuários poderiam usar em suas próprias vidas, mas, também, um padrão melhor para balizar a condição humana. Nesse contexto, da mesma forma que o algoritmo pode ser utilizado para melhorar a experiência do usuário da internet – por exemplo, informando-lhe as melhores promoções de venda de produtos de seu interesse –, ele pode ser utilizado como meio de discriminação, já que se cataloga as pessoas em grupos, conforme seus perfis de consumo, orientações políticas e outras várias classificações possíveis. A inteligência artificial (IA) percorre transversalmente as relações existenciais, relacionais, sociais, econômicas, científicas, culturais e jurídicas, com ampla repercussão nos sistemas sociais, integrando a vida e o cotidiano do ser humano. O fornecimento de produtos e serviços também se beneficia da IA, captando dados dos consumidores e orientando campanhas de marketing cada vez melhor direcionadas, sob os auspícios de melhorar a experiência do usuário. Há que se mencionar dois importantes direitos humanos da personalidade violados pelo uso do algoritmo para traçar perfis de consumidores, na técnica de profiling: privacidade e igualdade. O trabalho almeja a discutir direitos humanos e discriminação algorítmica por meio do profiling. Quais os limites materiais do perfilamento de consumidores por meio do tratamento de dados pessoais sob a ótica do livre desenvolvimento da personalidade?  Em uma primeira hipótese, o fornecedor de produtos e serviços na internet teria o legítimo interesse em oferecer ao consumidor uma experiência personalizada.  Contudo, em uma segunda hipótese, mais protetiva dos interesses do consumidor titular dos dados, teríamos que a prática do perfilamento, especialmente em casos de expressa discriminação por meio dos algoritmos, haveria violação à autodeterminação informativa, sob a ótica da privacidade, igualdade e direito à informação, bem como ao livre desenvolvimento da personalidade