Nos últimos anos, o surgimento da arquitetura Transformer tornou possível a IA generativa baseada em modelos de linguagem em larga escala. Este artigo detalha como o Transformer, através do mecanismo de autoatenção, aprimora a capacidade de processamento de linguagem, suportando diversos tipos de tarefas de geração. Apesar de o modelo ainda apresentar limitações, como "alucinações", essa tecnologia já gerou inúmeras aplicações inovadoras e está se expandindo para mais áreas, transformando o desenvolvimento da inteligência artificial.