Como o ChatGPT nasceu: a cadeia de ideias que o tornou possível

Em 30 de novembro de 2022, uma equipe da OpenAI lançou, quase de passagem, um chatbot que chamaram de "uma prévia de pesquisa". Não esperavam grande coisa. Cinco dias depois ele tinha um milhão de usuários; dois meses depois, cem milhões. Mas a história do ChatGPT não começa naquela noite. Começa muito antes, numa cadeia de ideias que foram se encaixando uma após a outra até que, quase por surpresa, produziram algo que sabia conversar.

Contar a história do ChatGPT como um relâmpago de 2022 é o erro clássico. O que foi lançado naquele dia foi o último elo de uma década de avanços técnicos, cada um construído sobre o anterior. Este é o percurso dessa cadeia: os marcos que, somados, tornaram possível que uma máquina parecesse nos entender.

01 · a arquitetura2017: a peça que mudou tudo

Se há uma data que marca o verdadeiro nascimento do ChatGPT, é 2017. Naquele ano, oito pesquisadores do Google publicaram um paper com um título que parecia uma provocação: Attention Is All You Need. Apresentavam uma arquitetura nova para processar linguagem, o Transformer [1].

Até então, as redes que processavam texto o liam em ordem, palavra por palavra, como quem percorre uma fila com uma lanterna. Eram lentas e esqueciam o início de uma frase longa quando chegavam ao fim. O Transformer rompeu com isso: em vez de ler em fila, olhava todas as palavras ao mesmo tempo e calculava, para cada uma, quanto devia "prestar atenção" às demais. Esse mecanismo, a atenção, resolvia dois problemas de uma vez: entendia muito melhor as relações à distância dentro de um texto e, por ser paralelizável, podia ser treinado em máquinas enormes sem se afogar.

Tudo o que veio depois foi possível porque uma arquitetura deixou de ler em fila e aprendeu a olhar o texto inteiro.

02 · a escalaDe 2019 a 2020: crescer até que surja algo novo

Com o Transformer sobre a mesa, a OpenAI fez uma aposta que na época soava temerária: se esta arquitetura funciona, o que acontece se a tornarmos gigantesca? A família GPT (Generative Pre-trained Transformer) foi a resposta. O GPT-2, em 2019, já escrevia parágrafos tão coerentes que a OpenAI hesitou em publicar o modelo completo por medo do seu mau uso. Foi o primeiro sinal de que algo diferente estava acontecendo.

Em 2020 chegou o GPT-3, e com ele uma surpresa que reordenou o campo. O modelo tinha 175 bilhões de parâmetros, cerca de cem vezes mais que o seu antecessor. Nesse tamanho começou a fazer coisas para as quais ninguém o havia treinado explicitamente: traduzir, resumir, responder perguntas, escrever código, bastando dar-lhe um par de exemplos na própria mensagem [2]. O paper que o descrevia trazia um título revelador: Language Models are Few-Shot Learners. Aprender com poucos exemplos, sem retreinar, não estava no plano: emergiu da escala.

03 · a virada2022: ensinar boas maneiras ao modelo

Aqui está a parte que costuma faltar no relato popular. O GPT-3 era assombroso e, ao mesmo tempo, quase inutilizável para o público. Era um motor de autocompletar descomunal: se você escrevia uma pergunta, tanto podia respondê-la quanto continuá-la com outra pergunta, porque o seu único ofício era prever o texto seguinte, não ajudar você. Poderoso, mas indócil.

A virada decisiva chegou no início de 2022, quando a OpenAI publicou o InstructGPT. A ideia: pegar o modelo cru e ajustá-lo com juízos humanos para que seguisse instruções em vez de apenas completar texto. A técnica se chama RLHF, aprendizado por reforço com retroalimentação humana. Pessoas comparavam respostas do modelo, apontavam quais preferiam, e com esse fluxo de preferências ele era retreinado rumo ao que as pessoas escolhiam [3].

A escala lhe deu conhecimento; o RLHF lhe deu boas maneiras. Sem o segundo, o ChatGPT teria sido uma curiosidade de laboratório.

O ChatGPT, lançado em novembro de 2022, foi essencialmente essa receita aplicada a um modelo da família GPT-3.5 e envolvida numa interface de chat gratuita e simples. Nada do que fazia por dentro era, a rigor, inédito naquele dia: o Transformer tinha cinco anos, a escala tinha dois, o RLHF vinha de meses antes. O novo foi juntar tudo e colocá-lo, sem atrito, nas mãos de qualquer pessoa.

04 · o fechoPor que "do nada" é um mito que vale a pena desmontar

Vale a pena ficar com a forma de cadeia, porque explica o fenômeno melhor do que qualquer relato de genialidade súbita. O ChatGPT não foi uma invenção isolada: foi o ponto onde três linhas de pesquisa (uma arquitetura, uma aposta na escala e uma técnica de ajuste) finalmente se cruzaram. Cada elo dependia do anterior. Sem o Transformer não havia escala viável; sem escala não havia conhecimento; sem RLHF não havia conversa.

Entender essa cadeia muda como se lê a atualidade. O que parece magia repentina costuma ser, visto de perto, anos de trabalho acumulado que um dia encontram a sua embalagem. Da próxima vez que um modelo "surgir do nada", convém perguntar que década de papers e apostas o estava esperando. Quase sempre há uma.