Aprovado no Senado no último dia 10 de dezembro, o projeto de lei (PL 2.338/2023) que regulamenta a inteligência artificial (IA) no Brasil classificava, originalmente, os algoritmos de distribuição de conteúdo de redes sociais como sistemas de alto risco, mas esta classificação foi excluída pela relatoria. De acordo com o texto, sistemas usados como ferramentas intermediárias e que não influenciem decisões relevantes não serão considerados de alto risco. E o agente de sistemas de IA poderá solicitar a revisão da classificação de seu sistema, caso discorde dela.
“Quando um sistema de IA for classificado como de alto risco, deverá ser realizada a avaliação de impacto algorítmico por profissionais com conhecimentos técnicos, científicos, regulatórios e jurídicos. Esta avaliação verificará os riscos aos direitos fundamentais conhecidos e previsíveis, os benefícios do sistema, a probabilidade e a gravidade de eventuais consequências adversas e os esforços necessários para mitigá-las, as medidas de transparência e a lógica do sistema”, explica o advogado e professor Igor Mesquita, sócio do MESARA Advogados.
As conclusões dessas avaliações deverão ser públicas e disponibilizadas em banco de dados mantido pela autoridade competente. “Um regulamento deverá determinar a periodicidade da revisão dessa avaliação e os sistemas de alto risco precisarão documentar a realização de testes de confiabilidade e segurança; mitigar eventuais vieses discriminatórios; adotar ferramentas de registro automático de operação para avaliar seu desempenho e apurar eventuais resultados discriminatórios; e adotar medidas que permitam explicar os resultados obtidos”, pontua Mesquita.
⚖ Nossas equipes estão à disposição para esclarecer dúvidas sobre este tema
