INESC TEC ganha reconhecimento internacional da IEEE por pesquisa sobre vieses cognitivos em LLMs

Nossa pesquisa sobre vieses cognitivos em Grandes Modelos de Linguagem (LLMs) recebeu reconhecimento internacional, na conferência da IEEE, ao demonstrar como a interação humano-computador (IHC) influencia o comportamento da máquina: identificamos que prompts baseados em “suposição” enviesam as respostas dos modelos em até o dobro das interações quando comparados a abordagens formuladas como “dúvida”. O estudo reforça a importância do design de sistemas de Inteligência Artificial (IA) e da interpretação crítica em contextos médicos.

Print da notícia

Link da notícia:

https://www.inesctec.pt/en/news/inesc-tec-paper-revealing-bias-in-language-models-wins-award-at-ieee-conference

Agradeço o imenso apoio das instituições INESC TEC, UFRJ - Universidade Federal do Rio de Janeiro, NCE / UFRJ Instituto Tércio Pacitti, Universidade de Trás-os-Montes e Alto Douro e Universidade de Cabo Verde 🏆Aos meus mentores Hugo Paredes, Adriana Vivacqua e Artur Rocha, Marcos Kalinowski, Ana Cristina Bicharra Garcia e Juliana França e Tânia Rocha 👏 E aos colaboradores Dennis Paulino, OLAVO TEIXEIRA, @Gonçalo Goncalves, @Leonardo Lopes, @Thigo Dantas, Diogo Guimarães e A. Thiago Netto ❤️

Vencemos! 🥳 Prêmio de melhor artigo científico em conferência internacional com mais de 1000 concorrentes!

Estou profundamente emocionado pelo reconhecimento do Best Conference Paper Award da CSCWD/IEEE de 2026! ❤️🏆

Apresentação e recebimento do Best Conference Paper Award

Nossa pesquisa sobre vieses cognitivos em Grandes Modelos de Linguagem (LLMs) apontou que o viés de confirmação ocorreu em todos os modelos avaliados, variando de 15% a 67%;. As causas podem vir da base de dados, da arquitetura Transformer, da configuração ou da própria engenharia de prompt, e que interações do tipo "suposição" levam ao dobro de erro do tipo "dúvida". Particularmente no contexto da saúde, onde essa tecnologia integra Sistemas de Apoio à Decisão Clínica (SADC), o processo de validação torna-se essencial para garantir a segurança do paciente e a confiabilidade da tomada de decisão com o apoio da Inteligência Artificial.

É uma grande conquista para mim e para as instituições UFRJ - Universidade Federal do Rio de Janeiro, NCE / UFRJ Instituto Tércio Pacitti, INESC TEC e Universidade de Trás-os-Montes e Alto Douro! ❤️ Agradeço intimamente meus orientadores Hugo Paredes e Adriana Vivacqua pelo incentivo e pelas lições de aula e de vida! ❤️ Aos demais coautores @Gonçalo Gonçalves, @Leonardo Lopes, @Tiago Dantas, Dennis Paulino, A. Thiago Netto, Diogo Guimarães, OLAVO TEIXEIRA e Artur Rocha, por todo apoio prestado. ❤️ E pela troca de experiência ao longo dos anos com professores, com quem tenho aprendido muito: Jano Moreira de Souza, Weiming Shen, PhD, P.Eng, FCAE, FIEEE, FEIC, Marcos Kalinowski, Angelica Dias, Juliana França, Ana Cristina Bicharra Garcia, Claudio Miceli de Farias, Tânia Rocha e Geraldo Xexéo.

O artigo é intitulado "Confirmation Bias in Large Language Models: Risks for Clinical Decision Support Systems" e será publicado em breve!

Entre neurônios e algoritmos: o que humanos e IAs revelam sobre aprendizagem

Nossa pesquisa no INESC TEC investiga vieses cognitivos em Grandes Modelos de linguagem (LLMs). Percebemos que certos comportamentos desses sistemas se aproximam de vieses cognitivos humanos. Esse paralelo me levou a aprofundar os conhecimentos sobre como os humanos aprendem, especialmente a partir do fascinante livro "Os Neurônios da Leitura", do neurocientista Stanislas Dehaene.

Dehaene revela que nosso cérebro se adaptou para servir a uma função muito diferente daquela para a qual foi originalmente desenvolvida. A ideia do autor é que o cérebro humano não evoluiu biologicamente para ler, porque a escrita (a letra) é muito recente. Em vez disso, o cérebro reutilizou circuitos neurais, que originalmente tinham outras funções, para tornar a leitura possível. Recomendo a leitura!

Entender os limites, distorções e vieses presentes nesses dois sistemas, artificial e humano, é uma das discussões mais relevantes para o futuro da IA e da humanidade.

Agradeço aos parceiros que fazem parte de nossas pesquisas e reflexões: Adriana Vivacqua, Hugo Paredes, Artur Rocha, Dennis Paulino, OLAVO TEIXEIRA, Tânia Rocha, Ricardo Rodrigues Nunes, Danilo Leite, Walkir Brito, Diogo Guimarães, A. Thiago Netto, Universidade de Trás-os-Montes e Alto Douro, Universidade Federal do Rio de Janeiro e NCE / UFRJ Instituto Tércio Pacitti.

Referência:

DEHAENE, Stanislas. Os Neurônios da Leitura. Editora Penso, 1ª ed. Porto Alegre, 2011. https://amzn.to/49Jcshc

RIS-ALA, Rafael. Fundamentos de Aprendizagem por Reforço. 1ª ed. Rio de Janeiro, 2023. doi: 10.58976/9786500604368 https://amzn.to/3YxUTvl