Governo dos EUA publica uma Carta de Direitos orientando o desenvolvimento e a aplicação de Inteligência Artificial

No dia 4 de outubro, o Governo dos EUA publicou um documento intitulado Blueprint for an AI Bill of Rights. Trata-se de um projeto que visa a elaboração de uma "Carta de Direitos" que discipline o desenvolvimento e a aplicação de inteligência artificial (IA). O documento, cujo conteúdo não tem força vinculante, foi elaborado pelo escritório de políticas sobre ciência e tecnologia da Casa Branca.

O projeto visa assegurar que sistemas de decisão automáticos não prejudiquem direitos civis e democráticos. Dentre outros, cita-se a coleta indiscriminada de dados pessoais em detrimento da privacidade dos indivíduos, bem como sistemas algorítmicos de crédito que reproduzem vieses discriminatórios.

Deste modo, o projeto lista cinco princípios que devem orientar o desenvolvimento e a aplicação de sistemas de decisão automáticos, os quais são explicados em linhas gerais abaixo:

Sistemas seguros e efetivos:

Sistemas automáticos devem ser desenvolvidos a partir da identificação e mitigação de riscos, sujeitos a monitoramento contínuo que demonstre sua efetividade e segurança. Estes procedimentos visam suprimir eventuais riscos que, embora não sejam intencionais, podem ser previstos.

Proteções contra discriminação algorítmica:

Sistemas automáticos devem passar por avaliações constantes sobre eventuais disparidades de impacto entre diferentes indivíduos e comunidades decorrentes de raça, cor, etnia, sexo, dentre outros. Isto inclui a prévia utilização de dados representativos durante o desenvolvimento dos sistemas.

Proteção de dados:

Sistemas automáticos devem possuir, por padrão, configurações protetivas da privacidade, e devem coletar apenas os dados estritamente necessários em cada caso. Além disso, técnicas de design que ofusquem opções dos usuários, bem como informações confusas, não devem ser adotadas.

Aviso e explicação:

Indivíduos devem ter consciência de que um sistema de decisão automático está sendo utilizado, compreendendo como tal sistema os impacta.

Alternativas humanas, consideração, e reversão:

Quando apropriado, indivíduos devem poder rejeitar um sistema de decisão automático em favor de uma alternativa humana. Além disso, indivíduos também devem ter recurso a uma pessoa humana para considerar e remediar eventuais erros, falhas, ou contestações dos indivíduos perante decisões automáticas.