A UTILIZAÇÃO DE ALGORITMOS ENVIESADOS PARA SELEÇÃO DE CANDIDATOS E O RISCO DE DISCRIMINAÇÃO

Abstract

O objetivo da presente pesquisa é analisar determinados riscos de discriminação que podem decorrer do uso de sistemas de inteligência artificial - IA, quando da utilização de algoritmos enviesados para alimentar a tecnologia. Condutas discriminatórias fazem parte da sociedade por diversas razões, muitas delas com origens históricas. No tocante às relações laborais, o risco de discriminação pode estar relacionado à cor, orientação sexual, gênero, aspectos físicos em geral, condição social dentre outras características que o candidato pode ter, sendo que essa discriminação pode ocorrer, tanto na manutenção do contrato de trabalho, quanto no momento da seleção de candidatos, aspectos que tornaram-se ainda mais evidente nos últimos anos, sobretudo diante da massiva utilização de sistemas automatizados de tomada de decisões – mecanismos de inteligência artificial alimentados por algoritmos. As transformações tecnológicas sempre fizeram parte da sociedade, sejam elas por força das invenções disruptivas, que surgem mudando a dinâmica de uma sociedade, sejam pelas melhorias que invenções existentes sofrem. As mudanças crescem em ritmo acelerado, bem como impactam todos as aspectos e áreas da vida humana, inclusive quando analisada sob a ótica laboral. Atualmente, com sistemas de IA programados por algoritmos, é possível tornar o processo de seleção de candidatos muito mais célere, uma vez que os sistemas de IA conseguem analisar uma enorme quantidade de currículos em segundos, para então selecionar o candidato “ideal”. A tomada de decisão desses sistemas, a partir da linguagem algorítmica, é definida com base em sua programação, a qual, de um modo geral, reflete as ações de uma pessoa humana responsável por “ensinar” a máquina a se comportar; logo, se o conteúdo utilizado para alimentar a IA, responsável pela seleção de um candidato, for discriminatório, o resultado será discriminatório. Nesse sentido, quando a IA é programada com um algoritmo enviesado, para selecionar qual candidato deverá ou não ser contratado, é possível visualizar uma série de riscos discriminatórios que podem decorrer dessa seleção, como resultado da má utilização de algoritmos repleto de vieses, os quais refletem as crenças e ideais de seus programadores. Evidentemente, a problemática envolve um dos muitos desafios inerentes às novas tecnologias, que precisam ser estudadas de maneira apropriada durante a sua criação e implementação, a fim de compreender quais são seus riscos e a melhor forma de lidar com os problemas. Diante dessa realidade, faz-se necessário o aprofundamento na temática, bem como a discussão sobre alternativas que visem assegurar o uso de sistemas de IA de forma a mitigar os riscos de discriminação, como por exemplo, através da implementação de diretrizes éticas para os programadores, quando da criação e implementação dos sistemas de IA, bem como a utilização de base de dados coerentes com o objetivo pretendido, a fim de assegurar uma seleção de candidatos de forma justa. Assim, o presente artigo se utiliza da metodologia de pesquisa bibliográfica e jurisprudencial, de modo a evidenciar a existência de um fenômeno discriminatório a partir da utilização de algoritmos enviesados para seleção de candidatos a vagas de empregos.