Quando você tem uma dúvida sobre algo, pode seguir três caminhos hoje em dia. O primeiro é pesquisar no Google. O segundo é conversar com um chatbot de inteligência artificial (IA), como ChatGPT, Claude, Gemini. O terceiro é conversar com alguém. Com a IA cada vez mais embutida na Busca do Google, os primeiros dois caminhos podem render experiências parecidas. Já no terceiro, a coisa é bem diferente. Humanos carregam conhecimento em suas mentes. Plataformas de IA mineram dados.
A diferença é, essencialmente, a seguinte: a pessoa consultada por você pode saber do que está falando. E, por isso, pode esclarecer sua dúvida. Ou até provocar outras. A IA, não. A resposta do chatbot passa confiança. É “limpa”, bem estruturada, aparentemente coerente. Mas não se engane. A plataforma não sabe do que está falando. Só que isso não tira o valor da sua resposta.
A IA processa quantidades abissais de dados, mas não carrega conhecimento
Você e a inteligência artificial não falam a mesma língua. Você poderia falar todos os idiomas do mundo e, ainda assim, não falaria a mesma língua da IA. Você, humano, fala a partir de vocabulário de palavras. A máquina só entende tokens – bloquinhos com etiquetas numéricas. Ou seja, números.
“Um token é basicamente uma subpalavra”, explica Fabrício Carraro, Program Manager da Alura, em entrevista ao Olhar Digital. “Por exemplo: a palavra ‘feliz’ é um token, a palavra ‘triste’ é um token, a palavra ‘divisível’ é um token.”
O especialista em IA continua: “Se a gente tem ‘indivisível’ ou ‘infeliz’, você vai ter o token ‘in’. O token ‘in’ corresponde, digamos, ao número 357 no vocabulário total de um modelo de linguagem. E o token ‘feliz’ vai ser o token 352. Esses dois juntos – o token ‘in’ e o token ‘feliz’ – formam a palavra ‘infeliz’.”
Quando você pergunta algo para o ChatGPT e a IA te responde, o que ocorre está mais para “cálculo de palavras” do que “articulação de pensamentos”. “Ele pega os milhares de tokens do seu vocabulário e atribui uma probabilidade para cada um deles com base no que viu e ‘aprendeu’ durante as fases de treinamento”, diz Carraro.
O treinamento de um grande modelo de linguagem (LLM, na sigla em inglês) consome quantidades abissais de dados. Se você lesse 24 horas por dia, demoraria quase 100 mil anos para chegar perto da quantidade “lida” pelo ChatGPT. No pós-treinamento, vem o aprendizado por reforço. “É quando o LLM aprende a ser útil para os humanos”, diz o especialista.
“No pós-treinamento, você o ensina que, dada uma pergunta, é assim que se espera uma resposta; esse é o formato que os humanos gostam de ver”, explica Carraro. “É feito um aprendizado por reforço também para ‘ensinar’ a ele que determinado retorno é uma resposta desejada e outro é uma resposta não desejada.”
Quando a IA te responde, ela está fazendo milhões de cálculos matemáticos. Cada neurônio da rede neural – nomes escolhidos lá atrás – é, literalmente, uma equação matemática.
Fabrício Carraro, Program Manager da Alura, em entrevista ao Olhar Digital.
Na hora de te responder, a IA escolhe cada palavra com base no seu treinamento. “Ao responder um humano, no que é chamado de inferência, a IA gera o próximo token baseada nas probabilidades que aprendeu durante o pré-treinamento, o pós-treinamento, o aprendizado por reforço e tudo mais”, diz o especialista. Em outras palavras, o chatbot “está simplesmente gerando o que é mais provável”.
Ok, plataformas de IA generativa não sabem de nada. Mas, atualmente, empresas de tecnologia usam alguns truques para compensar essa defasagem. Um deles foi embutir na IA a capacidade de pesquisar na internet. Isso melhorou a precisão na hora de responder dúvidas sobre temas quentes, como qual time ganhou o jogo de ontem e quem foram os vencedores do Oscar.
Outro truque é o que ficou conhecido como “raciocínio” (reasoning). A máquina não pensa, daí as aspas no termo. Mas o que ocorre debaixo do capô é um processo análogo ao que acontece na sua cabeça.
Segundo Carraro, a sacada de empresas como Google e OpenAI foi “fazer o modelo gerar para si mesmo várias miniperguntas e criar as respostas para elas sem mostrar isso ao usuário”. “Se ele perceber que errou, pode ver que algo estava errado, tentar outra abordagem e, com isso, fornecer uma resposta mais confiável”, diz o especialista. “Não quer dizer que estará correta, mas é um truque que melhora muito a acurácia, a precisão e as respostas desses modelos”, acrescenta.
A IA não ‘sabe’, mas pode te ajudar a saber
Na teoria, plataformas de IA “são calculadoras mais avançadas, mais aprimoradas”, diz Kenneth Corrêa, especialista em IA e professor da FGV, em entrevista ao Olhar Digital. Na prática, tem se observado LLMs, com trilhões de parâmetros, “capazes de gerar respostas ou completar prompts com capacidades que não estão na base de aprendizado que tiveram”.
São ferramentas que alucinam, mas são ferramentas que geram muitos resultados.
Kenneth Corrêa, especialista em IA e professor da FGV, em entrevista ao Olhar Digital.
O especialista continua: “Quando você os traz para classificar documentos, para identificar padrões ou para produzir textos, eles conseguem uma desenvoltura e uma entrega de resultado em níveis que muitas vezes superam a média dos humanos.”
Por isso, para Corrêa, não se deve reduzir a IA a uma calculadora avançada. “Quando a gente faz o reducionismo, deixa de considerar o que realmente importa, que é: qual é o impacto que isso está gerando?”
O Program Manager da Alura cita um desses impactos: descobertas alcançadas via modelos superpoderosos de IA. “No entanto, não necessariamente isso é conhecimento novo por si só”, frisa o especialista. “Talvez sejam integrações de conhecimentos pré-existentes organizados de um novo modo, que ninguém havia visto antes ou que exigiam ‘força bruta’ para serem encontrados.”
O professor da FGV faz outra ressalva: “Essas ferramentas não têm moral, não têm ética. Elas falam com confiança a resposta certa, mas têm exatamente a mesma confiança para dar a resposta errada.”
Daí a importância da supervisão humana. “No fim do dia, a gente precisa do ser humano para validar as respostas e direcionar a IA”, diz o professor da FGV. “É ele que decide o que vai utilizar ou não daquilo”, acrescenta. Por quê? Porque só os humanos sabem.
O post Você confia na IA? Por que o ChatGPT não ‘sabe’ nada, mas pode te ajudar apareceu primeiro em Olhar Digital.