Estrutura de avaliação de riscos no uso de IA pelo poder público

Framework de avaliação de riscos a direitos e de transparência no uso de sistemas de inteligência artificial pelo poder público
12/02/2021
Tamara Burg, Jonas Coelho, Juliana Sakai e Manoel Galdino
Proteção de dados Tecnologia e inteligência artificial Manuais

Este documento apresenta um framework de avaliação multissetorial do uso de Inteligência Artificial pelo poder pública que funciona como um guia para os órgãos públicos de fiscalização e organizações da sociedade civil identificarem potenciais ameaças a direitos e ao controle social, e, a partir disso, elaborar recomendações, exigir publicização de informações, correções ou testes e até a eventual descontinuidade de alguma ferramenta.

A estrutura contempla quatro dimensões: riscos a direitos pela natureza da ferramenta; riscos a direitos por discriminação algorítmica; riscos ao direito à privacidade; e potencial abuso autoritário do espaço cívico. Também inclui uma avaliação acerca do nível de transparência dado a todo o processo de utilização da ferramenta. 

Apoie a transparência dos dados públicos