Estou profundamente emocionado pelo reconhecimento do Best Conference Paper Award da CSCWD/IEEE de 2026! ❤️🏆
Apresentação e recebimento do Best Conference Paper Award
Nossa pesquisa sobre vieses cognitivos em Grandes Modelos de Linguagem (LLMs) apontou que o viés de confirmação ocorreu em todos os modelos avaliados, variando de 15% a 67%;. As causas podem vir da base de dados, da arquitetura Transformer, da configuração ou da própria engenharia de prompt, e que interações do tipo "suposição" levam ao dobro de erro do tipo "dúvida". Particularmente no contexto da saúde, onde essa tecnologia integra Sistemas de Apoio à Decisão Clínica (SADC), o processo de validação torna-se essencial para garantir a segurança do paciente e a confiabilidade da tomada de decisão com o apoio da Inteligência Artificial.
É uma grande conquista para mim e para as instituições UFRJ - Universidade Federal do Rio de Janeiro, NCE / UFRJ Instituto Tércio Pacitti, INESC TEC e Universidade de Trás-os-Montes e Alto Douro! ❤️ Agradeço intimamente meus orientadores Hugo Paredes e Adriana Vivacqua pelo incentivo e pelas lições de aula e de vida! ❤️ Aos demais coautores @Gonçalo Gonçalves, @Leonardo Lopes, @Tiago Dantas, Dennis Paulino, A. Thiago Netto, Diogo Guimarães, OLAVO TEIXEIRA e Artur Rocha, por todo apoio prestado. ❤️ E pela troca de experiência ao longo dos anos com professores, com quem tenho aprendido muito: Jano Moreira de Souza, Weiming Shen, PhD, P.Eng, FCAE, FIEEE, FEIC, Marcos Kalinowski, Angelica Dias, Juliana França, Ana Cristina Bicharra Garcia, Claudio Miceli de Farias, Tânia Rocha e Geraldo Xexéo.
O artigo é intitulado "Confirmation Bias in Large Language Models: Risks for Clinical Decision Support Systems" e será publicado em breve!
