Oito pessoas. Um artigo. Um mundo transformado.
Em 2017, um time do Google Brain publicou “Attention is All You Need”. Não foi mais um paper científico. Foi a inauguração da era dos Grande Modelos de Linguagem (LLMs) com a Arquitetura Transformer!
Quem são as pessoas por trás dessa engenhosidade?
Ashish Vaswani: Visionário que enxergou o poder do “atenção, não repetição”. Sua coragem de abandonar redes recorrentes abriu caminho para o que hoje chamamos de IA generativa.
Noam Shazeer: Especialista em escalar modelos. Depois do Transformer, virou cofundador da Character.AI, provando que impacto científico pode virar impacto de mercado.
Niki Parmar: Autodidata na infância, programadora precoce. Tornou-se a coautora mais jovem e hoje lidera inovação em IA na Essential AI.
Jakob Uszkoreit: Apaixonado por linguística computacional, hoje aplica IA em biotecnologia. É o exemplo de como algoritmos podem transbordar para outras áreas.
Llion Jones: Depois do Transformer, Llion fundou a Sakana AI, uma startup de IA generativa no Japão. Ele também contribuiu para benchmarks importantes, como Natural Questions.
Aidan Gomez: Estudante na época. Hoje cofundador da Cohere. O Transformer foi literalmente seu primeiro “grande projeto”.
Lukasz Kaiser: Mestre das arquiteturas escaláveis, fez o Transformer “caber” em infraestrutura real. Seus trabalhos em otimização e variantes abriram caminho para modelos gigantes que usamos hoje
Illia Polosukhin: Enquanto prototipava a arquitetura que mudou a IA, já pensava em descentralização. Hoje, lidera o NEAR Protocol, conectando IA e Web3.
Grandes mudanças são feitas por tecnologias, mas também por pessoas, ousadas e multidisciplinares!
Nossa equipe do INESC TEC, Universidade de Trás-os-Montes e Alto Douro e UFRJ - Universidade Federal do Rio de Janeiro desenvolve pesquisas semelhantes para o progresso humano.
Referências:
Vaswani, A., Shazeer, N., Parmar, N., Uszkoreit, J., Jones, L., Gomez, A. N., Kaiser, Ł., & Polosukhin, I. (2017). Attention is all you need. Advances in Neural Information Processing Systems, 2017-Decem, 5999–6009. doi: 10.5555/3295222.3295349
Ris-Ala, R. (2023). Fundamentals of Reinforcement Learning. Springer Nature Switzerland. doi: 10.1007/978-3-031-37345-9
Ris-Ala, R. (2025). Understanding Transformer Architecture: A Simplified Guide. Available: https://medium.com/@rafaelrisala/understanding-transformer-architecture-a-simplified-guide-17c109c3259e
#transformer #llms #ai
