Debate em torno da inteligência artificial evoca desafios sobre estratégias de governança
Crédito da Imagem: Unsplash
O apagão cibernético de 19 de julho de 2024[1], que paralisou sistemas em diversos setores ao redor do mundo, expôs fragilidades e dependências de infraestruturas digitais, acendendo o debate sobre soberania digital, regulação da inteligência artificial (IA) e o valor de planos nacionais como o Plano Brasileiro de IA (PBIA)[2].
O incidente demonstrou como uma falha em um único ponto da cadeia global de fornecedores pode causar disfunções em larga escala. Essa dependência de tecnologias e serviços estrangeiros levanta questões cruciais sobre a soberania digital. Ou seja, a capacidade de um país controlar e proteger seus dados, infraestruturas e sistemas de informação é fundamental para garantir sua autonomia e segurança nacional.
A soberania digital, contudo, não se limita à infraestrutura, implicando a capacidade de desenvolver tecnologia nacionais, protagonizar e planejar o futuro, formar profissionais qualificados e estabelecer políticas públicas que promovam a inovação, o uso responsável e ético da IA. O evento serve como um alerta para a necessidade de se investir em PD&I em áreas estratégicas como a educação, a cibersegurança e a IA, ademais de sinalizar a urgência de molduras regulatórias e de planejamento adequadas.
O debate em torno da IA, todavia, evoca desafios no que diz respeito às estratégias de governança, envolvendo pontos ainda controversos acerca do modo de emprego dos instrumentos regulatórios, do uso de sandboxes e dos mecanismos de enforcement.
Em paralelo, emergem certezas sobre a necessidade das infraestruturas públicas digitais[3], a eficácia das políticas de cibersegurança, a proteção de dados pessoais, as políticas de dados abertos e a respeito do conceito e da aplicação da assim chamada soberania digital[4].
Somam-se a isso questões relativas ao meio ambiente/clima, ao desenvolvimento sustentável[5], mas também ao vigilantismo, à falta de transparência e à necessidade de salvaguardas das conquistas civilizatórias, ensejando apreensões quanto as externalidades negativas dos atuais sistemas de IA, v.g. dos atuais modelos de negócios baseados em dados[6] que, por sua vez, se tornaram hegemônicos[7], impactando a geopolítica mundial.
Em vista disso, enquanto sobram dúvidas quanto a extensão dos impactos da IA sobre os direitos humanos e fundamentais, cresce o consenso sobre a necessidade de parâmetros regulatórios adequados e eficazes. Assim, é de se saudar o recente anúncio do PBIA, o mesmo não se podendo dizer sobre o adiamento da votação do PL 2338 no Senado.
O Brasil, seguindo a tendência internacional, tem feito esforços para desenvolver um ecossistema, confiável, seguro, inclusivo, antidiscriminatório e robusto nessa área desde 2020. O PL 2338 e o PBIA representam momentos essenciais nessa marcha, apresentando uma relação intrínseca e complementar, que não pode e não deve ser menosprezada.
O PL 2338, como é sabido, busca estabelecer um marco legal para o desenvolvimento e uso da IA no país, definindo princípios éticos, direitos, obrigações, mecanismos de governança e responsabilidades dos agentes envolvidos, para além de prever instrumentos específicos de responsabilização algorítmica.
O PBIA, por sua vez, apresenta uma visão estratégica para o desenvolvimento da IA no país, definindo prioridades, metas e ações. O plano busca fortalecer PD&I em IA promover a capacitação de profissionais, qualificar os serviços públicos, estimular a criação de empresas e startups inovadoras e fomentar a aplicação da IA em diversos setores da economia.
O PL 2338 projeta limites para o incremento do mercado e a inovação em âmbito interno, baseando-se em uma abordagem baseada em riscos, à medida em que institui o Sistema Nacional de Regulação de IA (SIA) sob a coordenação da Autoridade Nacional de Proteção de Dados (ANPD) em um modelo de governança que engaja a sociedade civil, o conselho consultivo, o fórum de reguladores e o poder executivo. Já o PBIA organiza estratégias, ações e investimentos para impulsionar PD&I, buscando posicionar o Brasil como protagonista global. O PL 2338 e o PBIA apresentam, de fato, uma convergência significativa em seus objetivos.
Confluem ainda mais, vez que, consoante com marco constitucional e o que se extrai da Lei Geral de Proteção de Dados Pessoais (LGPD), dentre outros documentos legislativos em vigor, o PBIA mira, v.g., na melhoria dos serviços públicos, na inclusão, no fomento à cidadania e à soberania digital, de modo a contemplar cinco grandes eixos: infraestrutura e desenvolvimento de IA; difusão, formação e capacitação em IA; IA para melhoria dos serviços públicos; IA para inovação empresarial; apoio ao processo regulatório e de governança de IA.
Calha destacar que o PBIA não se limita à pesquisa básica, buscando direcionar recursos para PD&I de soluções de IA que possam ser aplicadas em diferentes setores da economia, como saúde, educação, agricultura e segurança pública. Reconhece, em sintonia com o PL 2338, a privacidade e a proteção de dados pessoais como seus alicerces, apostando na instituição de uma cultura nacional positiva por meio da capacitação, da sensibilização, da participação e do monitoramento à medida em que previu fontes de investimentos e planos estratégicos com metas e prazos, inclusive com previsão de impactos de curto prazo.
A implementação do PBIA, contudo, apresenta múltiplos desafios, como é o caso, em caráter ilustrativo, da necessidade de investimentos contínuos, da integridade das políticas públicas, da expansão da transparência e da confiança, do cultivo de uma governança participativa e ativa, da accountability e da prestação de contas, da formação de profissionais qualificados e da retenção de talentos, da criação de um ambiente regulatório adequado, com base na versão atual do PL 2338, e, por fim, da superação da resistência às mudanças que é ainda algo muito típico no cenário brasileiro.
Deve-se admitir, ao fim e ao cabo, que o recente apagão cibernético se tornou um marcador relevante para demonstrar a importância da soberania digital e da regulamentação da IA. Nesse contexto, o PL 2338 e o PBIA são instrumentos fundamentais para garantir que o Brasil esteja preparado para enfrentar os desafios e aproveitar as oportunidades da era digital.
[1] Apagão cibernético já gerou cancelamento de quase 1.400 voos pelo mundo; veja situação por país. In: https://oglobo.globo.com/economia/noticia/2024/07/19/apagao-cibernetico-ja-gerou-cancelamento-de-quase-1400-mil-voos-pelo-mundo-veja-situacao-por-pais.ghtml Acesso em: 03.08.2024; Entenda como apagão cibernético que afeta computadores atingiu voos, serviços bancários e de saúde por todo o mundo. In: https://g1.globo.com/mundo/noticia/2024/07/19/entenda-apagao-cibernetico.ghtml Acesso em: 03.08.2024
[2] Plano brasileiro de IA terá supercomputador e investimento de R$ 23 bilhões em quatro anos: proposta apresentada ao presidente Lula tem como objetivo nortear o desenvolvimento e a aplicação ética e sustentável da inteligência artificial no Brasil. In: https://www.gov.br/mcti/pt-br/acompanhe-o-mcti/noticias/2024/07/plano-brasileiro-de-ia-tera-supercomputador-e-investimento-de-r-23-bilhoes-em-quatro-anos Acesso em: 04.08.2024
[3]MELLO, Patrícia Campos. Não basta regular, é preciso ter infraestrutura digital pública, diz especialista. Disponível em: https://www1.folha.uol.com.br/tec/2023/08/nao-basta-regular-e-preciso-ter-infraestrutura-digital-publica-diz-especialista.shtml. Acesso em: 04.06.2024.
[4] BARBOSA, Alexandre Costa. IA: a urgência das Infraestruturas Públicas Digitais. Disponível em: https://outraspalavras.net/tecnologiaemdisputa/ia-a-urgencia-das-infraestruturas-publicas-digitai s/. Acesso em: 10.06.2024; Portaria SGD/MGI nº 5.950, de 26 de outubro de 2023. Disponível em: https://www.gov.br/governodigital/pt-br/contratacoes-de-tic/copy_of_legislacao/modelo-de-contratacao-de-software-e-servicos-em-nuvem/portaria-sgd-mgi-no-5-950-de-26-de-outubro-de-2023. Acesso em: 03.07.2024.
[5] BOEHM, Sophie; SHUMER, Clea. 10 conclusões do Relatório do IPCC sobre Mudanças Climáticas de 2023. Disponível em: https://www.wribrasil.org.br/noticias/10-conclusoes-do-relatorio-do-ipcc-sobre-mudancas-climaticas-de-2023. Acesso em: 12.03.2024.
[6] DAVENPORT, T; BECK, J. The attention economy: understanding the new currency of business. Boston: Harvard Business School Press. 2002, p. 30.
[7] BROWNE, Simone. Dark Matters: On the Surveillance of Blackness. Durham: Duke University Press Books, 2015, pg. 34.
Gabrielle Bezerra Sales Sarlet – Doutora em Direito pela Universidade de Augsburg, com tese validada pelo PPGD-UFGRS. Pós-doutora em Direito pela Universidade de Hamburgo e igualmente pela PUC-RS. Professora Adjunta da Escola de Direito da PUC-RS. Pesquisadora produtividade CNPQ-PQ-2, desenvolvendo o projeto sobre IA e saúde digital. Coordena o grupo de pesquisas CNPQ em Inteligência Artificial e Direito junto ao PPGD da PUC-RS
Ingo Wolfgang Sarlet – Advogado e parecerista. Doutor e pós-doutor em Direito pela Universidade de Munique. Professor titular e coordenador do PPGD e docente permanente do PPG em Ciências Criminais da PUC-RS. Pesquisador Produtividade CNPQ - pq 2. Membro da Comissão Especial do CFOAB de Proteção de Dados. Desembargador aposentado do TJRS
