As plataformas sociais não são mero intermediários passivos”, afirma Joana Machado, pesquisadora e professora da UFJF (Foto: Twin Alvarenga)
“Tanto com relação à proteção de direitos na internet, quanto ao uso de IA pelo judiciário, o Estado brasileiro se depara com novos desafios para velhos problemas.” A autora dessa frase é Joana Machado, pesquisadora e professora associada da Faculdade de Direito da Universidade Federal de Juiz de Fora (UFJF).
Coordenadora do Lavid – Laboratório de pesquisa e de assessoria jurídica em violências institucionais, inovação e direitos humanos, Joana é a convidada do 21ª episódio do IdPesquisa e explica quais são as provocações que demandam o repertório de problemas constitutivos da sociedade (e quais são esses problemas) e o que esse assunto tem a ver com você e a democracia brasileira.
Como direitos fundamentais são protegidos pelo judiciário?
Recentemente, a professora foi contemplada com investimento da Fapemig de mais de 83 mil reais para desenvolver um dos seus trabalhos. O projeto “Proteção judicial de direitos no contexto regulatório das plataformas digitais: entre liberalismo, ativismo e constitucionalismo digital” trata de um dos focos centrais de Joana e seus alunos: a regulação de plataformas digitais. “Pesquisamos como o judiciário protege direitos fundamentais na regulação de plataformas como Instagram, Facebook e YouTube, que não são só intermediárias passivas, mas agentes que moldam a política e a sociabilidade”, explica Joana Machado.
O laboratório busca entender como o Estado – especialmente o judiciário, que tem sido cada vez mais provocado a decidir sobre conteúdos, moderação, transparência algorítmica e responsabilização – vem lidando com desafios tecnológicos que impactam direitos fundamentais.
Desafios tecnológicos como a inteligência artificial (IA), que, sempre imitando a capacidade humana, cria conteúdos novos a partir de padrões aprendidos com dados, faz análises e previsões e responde a comandos. E sobre direitos fundamentais, fala-se de liberdade de expressão, dignidade humana, privacidade, honra, igualdade e participação democrática.
“A pesquisa contribui para garantir que essas tecnologias sejam usadas de forma responsável, transparente e compatível com os compromissos democráticos e de direitos humanos”, afirma Ferreira. (Foto: arquivo pessoal)
Como as plataformas digitais e os sistemas de IA moldam a vida das pessoas?
A resposta, para a professora, está no distanciamento do liberalismo digital – em que pouca ou nenhuma regulação prevalece – e aproximação do constitucionalismo digital, “esse movimento teórico que tenta buscar uma proteção adequada dos nossos direitos no ambiente online”.
“A ideia é produzir conhecimento que ajude poderes públicos, sociedade civil e academia a construir parâmetros mais claros e eficazes para regular plataformas e sistemas de IA”, explica Juliano Ferreira, aluno de iniciação científica e integrante do Lavid. Para o aluno, em um cenário em que decisões algorítmicas influenciam desde o acesso à informação até oportunidades econômicas, compreender esse funcionamento e propor caminhos de proteção se torna essencial.
Anna Flávia Aguilar também integra o Lavid e se prepara para defender sua dissertação de mestrado nos próximos meses. Partindo de estudos sobre a baixa representação de mulheres no Judiciário brasileiro, iniciados ainda na graduação em Direito, ela atualmente pesquisa a violência política de gênero facilitada pelas plataformas digitais. “Pelas lentes do constitucionalismo digital e feminista, busco analisar de que forma essa violência tem se disseminado no Brasil e qual papel o sistema de justiça tem desempenhado no seu enfrentamento e combate.”
A violência política de gênero é facilitada pelas plataformas digitais porque é por meio delas que o ataque a mulheres e pessoas marginalizadas dificulta, impede, restringe e/ou deslegitima a participação feminina na política. As redes sociais amplificam o ódio e a desinformação quando propagam assédios, ameaças e criação e difusão de conteúdos falsos ou sem consentimento das vítimas. “Ao investigar como essas dinâmicas se estruturam e como o sistema de justiça responde a elas, busco produzir conhecimento que auxilie na formulação de políticas públicas e estratégias institucionais capazes de enfrentar esse tipo de violência”, reflete a mestranda.
Para Anna Flávia Aguilar, plataformas digitais amplificam violências políticas de gênero que afetam a participação democrática de mulheres e outras minorias políticas.” (Foto: Arquivo pessoal)
O uso de IA pelo judiciário
O Lavid tem importância singular por reunir pesquisas que envolvem gênero, raça, direitos humanos e inovação no Direito, “campo historicamente reprodutor de violências”, segundo Anna Flávia. Talvez por isso, outra agenda do laboratório é a preocupação com a dimensão política do uso de IA pelo poder judiciário.
Se, de um lado, os trabalhos do Lavid pesquisam como o judiciário responde às inovações tecnológicas, de outro se voltam à maneira como ele mesmo – o judiciário – faz isso, valendo-se das próprias tecnologias. De acordo com Joana, nos dias de hoje, o judiciário faz uso de sistemas de IA de forma muito robusta. “O judiciário não consegue processar de forma célere todas as demandas que chegam, por isso está sempre nessa busca de um sistema de justiça mais responsivo, que responda com mais rapidez e sensibilidade aos problemas sociais.”
Mas isso gera debates éticos. Até que ponto uma pessoa que busca a justiça vai ter a sua vida resolvida por um sistema de IA? Quem desenha essa IA? A partir de que visões de mundo? No Lavid, o debate busca compreender esses processos a fim de evitar que inovações tecnológicas reproduzam violências no Direito Constitucional – como racismo algorítmico e misoginia, por exemplo.
“Às vezes, achamos que por se valer da tecnologia a gente vai abandonar velhos problemas. Mas eles nos revisitam. Porque é o ser humano que constrói esses artefatos. A tecnologia não é neutra, o judiciário não é neutro”, conclui a docente.
Assista ao 21º episódio do IdPesquisa, já disponível no YouTube e Spotify.