Professor da UFMG Ricardo Mendonça acredita que o desafio de regular o uso da inteligência artificial é uma necessidade e o debate público pode ser pautado pelas instituições (Foto: Alexandre Dornelas)
Os impactos da inteligência artificial (IA) na educação, a necessidade de regulação sobre seu uso, a centralidade dos algoritmos na vida contemporânea. Essas e muitas outras questões urgentes para ampliação do debate público sobre IA foram tratadas pelos pesquisadores Ricardo Fabrino Mendonça, da Universidade Federal de Minas Gerais (UFMG), e Priscila Capriles Goliatt, da Universidade Federal de Juiz de Fora (UFJF). O evento foi realizado pela Faculdade de Medicina, nesta quinta-feira, 7, reunindo alunos e docentes.
A UFMG foi uma das pioneiras em estabelecer comissão interna sobre o tema, com objetivo de criar diretrizes e uma política sobre o uso da IA no ensino, pesquisa, extensão e na administração. Segundo Ricardo Mendonça, presidente da comissão, não parece uma solução viável a mera proibição do uso da IA e, por isso, o grupo busca por valores centrais, com fundamentos éticos, preocupações morais, sociais e ambientais.
A professora do Departamento de Ciência da Computação Priscila Goliatt contextualizou sobre o cenário nacional da IA, destacando o projeto de Lei 2.338/2023, que apresenta normas gerais para o desenvolvimento, implementação e uso responsável de sistemas de IA no Brasil, atualmente em tramitação no Senado Federal. E, ainda, o recém-lançado Plano Brasileiro de Inteligência Artificial, do Ministério de Ciência, Tecnologia e Inovação. Esforços que prometem ampliar a pesquisa e investimentos, mas que ainda precisam de maior detalhamento e olhar crítico.
No ensino, ambos os pesquisadores falaram sobre as preocupações que vão além do mero plágio ou do uso de softwares de IA para realização de artigos científicos e avaliações. Entre os exemplos, estão o chamado viés algorítmico – respostas ou resultados gerados por IA tendenciosos, distorcidos ou que representam preconceitos – e a responsabilização sobre uso de dados obtidos por meio de IA. Tudo isso deve ser objeto de regulação, algo absolutamente necessário, segundo os palestrantes.
Marcel Vieira, que mediou a mesa entre Ricardo Mendonça e Priscila Goliatt (em vídeo) defendeu que a IA pode apoiar o ensino, mas deve se preocupar com a dependência tecnológica e com a desigualdade de acesso (Foto: Alexandre Dornelas)
A área da saúde é uma das grandes impactadas pela IA, e o potencial de utilização, desde a área administrativa de hospitais até exames, diagnósticos e tratamentos, é enorme. Para isso, entretanto, é preciso ter dados de qualidade e protegidos. Uma das medidas, como parte da regulação da IA, é tornar os algoritmos transparentes e auditáveis, justamente para evitar os vieses e garantir a privacidade, proteção e origem dos dados.
Por fim, Mendonça, que é pesquisador da área de ciências políticas, enfatizou que atualmente não “há como pensar em democracia sem pensar em algoritmos”, dada sua importância na construção das subjetividades e do tecido social.
A mesa foi mediada pelo pró-reitor de Sistema de Dados e Avaliação da UFJF, professor do Departamento de Estatística Marcel Vieira, e teve a presença do vice-reitor Telmo Ronzani. A diretora da Faculdade de Medicina, Ivana Moutinho, disse que se sentia privilegiada por ouvir, pela primeira vez do ponto de vista acadêmico e científico, o tema da inteligência artificial ser tratado na unidade. Para ela, é impossível a tecnologia substituir completamente a relação pessoal entre médico e paciente, ainda que seu desenvolvimento aprimore cada vez mais tratamentos e diagnósticos.