Policy Paper: Regulação de Inteligência Artificial no Brasil

O Centro de Tecnologia e Sociedade (CTS) apresentou contribuições à Consulta Pública sobre a Estratégia Nacional brasileira de Inteligência Artificial organizada pelo Ministério da Ciência Tecnologia Inovações e Comunicações (MCTIC) na plataforma Participa.br respondendo a 9 (nove) perguntas no âmbito de quatro eixos específicos: i) Lei, Regulação e Uso Ético; ii) Governança de IA; iii) Aplicações no Poder Público e iv) Segurança Pública. Este policy paper unifica as respostas fornecidas, a fim de englobar as recomendações e ser um ponto de partida para futuras discussões sobre o tema.


    Ivar A. Hartmann, Bruna Franqueira, Julia Iunes, Lorena Abbas, Yasmin Curzi, Beatriz Villa, Fernanda Abreu, Renan Dias
  • Páginas: 39
Sumário

Índice
Sumário Executivo 3
Primeiro Eixo: Legislação, Regulação e Uso Ético 6
1. Quais deveriam ser os princípios éticos a serem observados no Brasil? 6
2. De que maneira princípios éticos podem ser incorporados na pesquisa e na utilização de IA? 9
2.1 Medidas Técnicas 9
2.1.1 Medidas Técnicas para a incorporação de princípios na arquitetura dos sistemas de IA 9
a) Abordagens de baixo para cima (bottom-up approaches) 10
b) Abordagens “de cima para baixo” (top-down approaches) 10
2.1.2 Medidas Técnicas para fiscalizar a adoção dos princípios nos sistemas de IA 11
a) Métodos de Explicação 11
b) Testes e Validação 11
c) Indicadores de qualidade de serviço 11
d) Desenvolvimento de uma IA guardiã 12
2.2 Medidas de Regulação 12
3. De que maneira é possível concretizar a ideia de explicabilidade em sistemas de IA? 14
3.1 A demanda por explicabilidade em sistemas de IA 14
3.2 Desafios em se conferir explicabilidade a sistemas de IA 14
3.2 Formas de se concretizar a explicabilidade em sistemas de IA 15
4. Como é possível endereçar questões relacionadas à discriminação e ao viés em decisões tomadas por sistemas autônomos? 19
Segundo Eixo: Governança de IA 21
1. Devem ser criadas estruturas institucionais voltadas ao desenvolvimento, aplicação e monitoramento de padrões éticos em IA, a exemplo do Centre for Data Ethics and Innovation do Reino Unido e do Automated Decision Systems Task Force de Nova Iorque? 21
Terceiro Eixo: Aplicação no Poder Público 23
1. Há necessidade de salvaguardas específicas nos processos de tomada de decisão no poder público envolvendo sistemas de IA? Em quais circunstâncias ou em quais áreas? 23

Quarto Eixo: Segurança Pública 25
1. Quais são os métodos e técnicas que podem ser usados para incentivar o desenvolvimento de sistemas de IA seguros e confiáveis? 25
2. De que maneira pode-se apoiar esforços para criar métricas para avaliar a segurança, a proteção e a confiabilidade das aplicações da ciência e tecnologia em relação à inteligência artificial? 28
3. Quais salvaguardas, critérios e cuidados devem ser adotados na utilização de IA no campo da segurança? 30
Bibliografia 33
Autores

As manifestações expressas por integrantes dos quadros da Fundação Getulio Vargas, nas quais constem a sua identificação como tais, em artigos e entrevistas publicados nos meios de comunicação em geral, representam exclusivamente as opiniões dos seus autores e não, necessariamente, a posição institucional da FGV. Portaria FGV Nº19 / 2018.

A A A
Alto contraste

Esse site usa cookies

Nosso website coleta informações do seu dispositivo e da sua navegação e utiliza tecnologias como cookies para armazená-las e permitir funcionalidades como: melhorar o funcionamento técnico das páginas, mensurar a audiência do website e oferecer produtos e serviços relevantes por meio de anúncios personalizados. Para mais informações, acesse o nosso Aviso de Cookies e o nosso Aviso de Privacidade.