A CAIXA PRETA DA INTELIGÊNCIA ARTIFICIAL E O DESAFIO REGULATÓRIO

Resumo

Trata-se de pesquisa de caráter bibliográfico e documental na área de Direito Fundamentais e Inovação Tecnológica. O objeto da pesquisa é sobre a existência de legislação sobre ferramentas tecnológicas denominadas Inteligência Artificial (IA) que garantam que ela reproduza as mudanças e conquistas sociais de grupos ou comunidades vítimas da desigualdade social. O objetivo geral é retratar as limitações das “learning machines”, também conhecidas como máquinas dotadas de Inteligência Artificial, em imitar o complexo aprendizado humano, e como tal disparidade podem dificultar que conquistas sociais sejam refletidas pela IA, tornando tal ferramenta possível fator de desigualdade social. Os objetivos específicos são: a revisão bibliográfica do fenômeno Inteligência Artificial e seus os mitos; reunir pesquisas que demostrem o viés resultante do uso da IA; a falta ou deficiência de regulação, o que permite a existência da “caixa-preta” da inovação tecnológica; por fim, sugerir quais os pontos nodais regulatórios na garantia de conquistas sociais. Foram criados mitos sobre as possibilidades de a IA alcançar e até suplantar a inteligência humana, tanto pela cultura popular como, nos últimos tempos, pelas próprias empresas desenvolvedoras das tecnologias. São muitos os avanços que a inovação em estudo pode trazer, desde que desenvolvida sob princípios éticos, observando direitos fundamentais. As empresas desenvolvedoras são plenamente conscientes dessas limitações, bem como das dificuldades na eliminação de viés como resultado do uso da tecnologia. Como tais máquinas se alimentam de bancos de dados da rede mundial de computadores, os quais, por sua vez, refletem o privilégio de determinadas classes e grupos quanto ao acesso digital, é essencial que haja maneiras de evitar a reprodução de preconcenitos, garantido o acompanhamento das conquistas dos grupos marginslzados historicamente. A IA tem sido integrada aos sistemas de justiça de inúmeros países, tornando premente haver transparência tanto quanto à alimentação de dados como sobre quais algorítimos usados para formar os padrões de resposta. A partir do contexto, o trabalho foi guiado pelo seguinte problema de pesquisa: as leis existentes nos países líderes no desenvolvimento da Inteligência Artificial e/ou nos países usuários são suficientes para lidar com potenciais injustiças e atrasos em termos de evolução social, principalmente quando aplicada aos sistemas de justiça? Formulou-se a hipótese de que é possível diminuir as implicações deletérias do uso de IA em processos judiciais através de leis regulatórias que garantam o acesso aos dados e compreensão dos processos de aprendizagem. A hipótese será desenvolvida com o estudo das legislações existentes, bem como pela pesquisa bibliográfica sobre resultados obtidos junto ao Judiciário de alguns Estados dos EUA e países da União Europeia, com ênfase no julgamento de pessoas pertencentes a minorias historicamente discriminadas. A partir da análise dos dados colhidos, espera-se sugerir quais as legislações, caso existentes, devem servir de paradigma, bem como sobre princípios éticos e de transparência empresarial que devem nortear a regulação, para impedir a perpetuação de preconceitos.