IA e judiciário: novos desafios para velhos problemas

O texto apresenta o trabalho do Lavid/UFJF, (Laboratório de pesquisa e de assessoria jurídica em violências institucionais, inovação e direitos humanos,) que investiga como o Judiciário e o Estado brasileiro lidam com desafios antigos de direitos fundamentais em um contexto de plataformas digitais e uso crescente de IA no sistema de justiça.

O artigo destaca a pesquisadora Joana Machado, coordenadora do Lavid, e seu projeto financiado pela Fapemig sobre proteção judicial de direitos no contexto regulatório das plataformas digitais, analisando como o Judiciário protege direitos fundamentais em ambientes como Instagram, Facebook e YouTube, que influenciam política e sociabilidade. O laboratório busca compreender como o Estado e especialmente o Judiciário enfrentam questões de moderação de conteúdo, transparência algorítmica, responsabilização de plataformas e regulação de sistemas de IA.

Os pesquisadores procuram produzir conhecimento para orientar poderes públicos, sociedade civil e academia na construção de parâmetros mais claros e eficazes para regular plataformas e IA, diante do impacto de decisões algorítmicas sobre acesso à informação e oportunidades econômicas.

Há também pesquisas específicas sobre violência política de gênero facilitada por plataformas digitais, analisando como ataques, assédios e desinformação online restringem a participação de mulheres e grupos marginalizados na política e como o sistema de justiça reage a isso.

O Judiciário brasileiro já utiliza sistemas de IA de forma intensa para tentar responder com mais rapidez e sensibilidade ao grande volume de demandas, mas isso levanta debates éticos sobre quem desenha esses sistemas, quais valores os orientam e até que ponto decisões que afetam vidas podem ser delegadas a algoritmos.

A perspectiva do Lavid é que a tecnologia e o Judiciário não são neutros, de modo que a adoção de IA pode reproduzir violências estruturais, como racismo algorítmico e misoginia, se não houver parâmetros críticos e democráticos de controle.

FONTE: UFJF.