Inteligência artificial nos processos de seleção
Sistemas baseados em inteligência artificial ("IA") têm sido ferramentas cotidianas nos processos de seleção e recrutamento para vagas de emprego no Brasil e mundo afora.
Uma primeira questão que emerge do tema consiste em perquirir se cabe ao empregador avisar os candidatos que seus currículos/dados serão analisados por alguma ferramenta de IA. Apesar de não existir legislação, no Brasil, que determine especificamente a necessidade de tal notificação, parece uma boa prática a ser adotada pelas empresas, o que pode ser feito juntamente à informação de que os dados pessoais serão acessados e armazenados, nos limites da Lei Geral de Proteção de Dados (LGPD).
Uma segunda indagação que decorre do crescente uso de IA nos processos de seleção é identificar se tais sistemas – ainda permeados de controvérsias, inclusive do ponto de vista ético – têm reduzido ou agravado episódios inerentes a discriminação, ou seja, se também a IA padece de vieses discriminatórios.
Neste contexto se faz necessário abordar duas inquietações fundamentais: quem é responsável pela base de dados do algoritmo de aprendizado de máquina e qual a verdadeira intenção do empregador.
Ao serem imputados dados com um determinado perfil (ainda que reflitam a realidade dos empregados existentes na empresa naquele momento ou dos currículos recebidos pela empresa), os algoritmos tenderiam a escolher candidatos que tenham atributo semelhante e, portanto, as máquinas reproduziriam um padrão preexistente, que muitas vezes já exclui mulheres e negros de forma mais significativa do que homens brancos.
Assim, não há como desonerar de responsabilidade aquele que desenvolveu a IA (e aquele que a utilizou) pelo viés discriminatório verificado em determinado programa de seleção, uma vez que tal anomalia decorre do próprio desenvolvimento do sistema e de sua utilização sem os devidos testes. No que tange à intenção do empregador, considerando que a IA permite a inserção de filtros para a contratação/itens a serem valorizados, os quais determinarão o padrão a ser seguido no processo seletivo, caso queira fazer uma seleção com viés discriminatório, isso seria possível, apesar de ilegal.
Por outro lado, quando entendemos que o uso de sistemas de IA para processos de admissão de trabalhadores é uma realidade da qual não se escapará, tem-se necessário avaliar o quão possível é corrigir os programas para afastar a chamada discriminação algorítmica. Há, de fato, meios de monitorar e revisar os sistemas desenvolvidos de forma a não permitir que sejam alimentados com dados de apenas parte da população, o que levaria a reprodução dos vieses discriminatórios atuais? Há meios para fiscalizar e/ou responsabilizar os empregadores em caso de uso de IA que se presta a discriminar candidatos?
Ainda que não se tenha resposta às indagações acima, caso utilizado um programa de IA para seleção de empregados com viés discriminatório, o empregador assume o risco de reclamações por parte dos candidatos e/ou impugnações do Ministério Público do Trabalho por violação do princípio da não discriminação (art. 7º, XXX da CF e Convenção 111 da OIT). Isso porque, candidatos deverão ter iguais oportunidades, quando houver idênticas aptidões técnicas e qualquer distorção que caracterize discriminação, quer praticada por um ser humano, quer por uma máquina, não se justifica.
Por fim e não menos importante, é crucial ter em mente que dados objetivos de diversidade podem ser capturados por sistemas de IA. Mas, a mensuração real da inclusão, ou seja, do quão efetivamente incluídos estão os grupos minorizados em um determinado ambiente laboral (a despeito de dados objetivos e/ou numéricos) é tarefa que segue sendo bastante complexa, inclusive por programas de IA e, por isso mesmo, merecem o olhar atento dos seres humanos.
>>> Este conteúdo faz parte do e-book "Inteligência artificial: visões jurídicas dos dilemas do futuro". Leia mais artigos aqui.
