Minha própria virada de chave com essas ferramentas veio há um bom tempo, nos primeiros meses em que comecei a construir com elas. Ouvimos falar sem parar sobre o treinamento de um LLM, então eu tinha presumido, como a maioria das pessoas, que o treinamento cobria tudo. Que em algum ponto desse processo enorme um sistema conseguia absorver as especificidades de um negócio. Depois, o trabalho de construção me mostrou onde as especificidades de fato entram. O treinamento só faz a máquina funcionar. Ele ensina linguagem, raciocínio, a forma geral do mundo. As especificidades chegam depois, por meio da indexação, e indexação é tecnologia mais antiga, mais humilde. Arquivamento, na prática. A parte do sistema que conhece o seu negócio acaba sendo a parte que não tem nada a ver com IA.
A maioria das pessoas seniores com quem converso em AEC já usou uma dessas ferramentas a essa altura. Já viram a IA redigir uma carta, resumir um relatório de quarenta páginas, produzir uma primeira versão razoável de um escopo. O que ela consegue fazer é visível para todos. O que ela realmente é permanece nebuloso. E a névoa importa, porque está moldando silenciosamente como as empresas decidem usar a coisa.
Então aqui vai a versão simples, a que eu gostaria que alguém tivesse dado ao setor há dois anos.
Um modelo de linguagem é uma máquina de previsão de texto. Ele leu uma quantidade enorme de escrita, e de toda essa leitura aprendeu os padrões de como uma palavra segue a outra. Quando você pergunta algo, ele faz um único trabalho: prevê, fragmento por fragmento, como seria uma boa resposta. Esse é todo o mecanismo. Ele faz isso surpreendentemente bem. Bem o suficiente para parecer compreensão, e para muitos propósitos do dia a dia ele se comporta como se compreendesse.
Agora repare no que está ausente dessa descrição. O modelo não consulta nada. De fábrica, ele não guarda cópia dos seus arquivos de projeto, das suas especificações, do seu histórico de honorários, das lições aprendidas. Pergunte algo sobre o seu negócio e ele responde a partir da memória de padrões, do jeito que um colega muito bem lido responderia com confiança sobre um projeto em que nunca trabalhou. Fluente. Plausível. Sem âncora.
Isso soa como uma desqualificação da tecnologia. Não é essa a intenção. A máquina de previsão é um avanço genuíno. Meu ponto é que a máquina sozinha é apenas uma peça do que torna esses sistemas úteis, e é a peça que todo mundo já consegue ver.
As peças de que ninguém fala
Quando um sistema de IA dá respostas precisas, específicas e confiáveis sobre um domínio em particular, raramente foi o modelo que mudou. Duas coisas mais silenciosas mudaram.
A primeira é a estrutura da informação ao redor dele. Os sistemas que funcionam fazem algo enganosamente simples: antes de o modelo responder, eles encontram os documentos certos e os entregam, de modo que a resposta se ancore no seu material, e não na memória de padrões. O jargão do setor chama isso de recuperação (retrieval), e ela roda sobre a indexação que descrevi no início. Tecnologia de busca e arquivamento, de espírito antigo, fazendo o trabalho silencioso enquanto o modelo leva o crédito. A qualidade disso depende quase inteiramente de como sua informação está organizada. Um arquivo limpo e bem estruturado deixa o sistema encontrar os três parágrafos que importam. Um drive compartilhado com quinze anos de pastas chamadas “Final_v2_USAR ESTA” entrega ruído à máquina, e a máquina vai resumir o ruído com total confiança.
A segunda é instrução. Um sistema focado foi informado, com cuidado e em detalhe, para que serve. Quais fontes contam. O que precisa checar antes de responder. Sobre o que deve se recusar a chutar. A diferença entre uma janela de chat genérica e um assistente dedicado que de fato conhece sua prática está, na maior parte, em alguns milhares de palavras de instrução bem escrita que o usuário nunca vê. Passo boa parte da minha semana de trabalho escrevendo e refinando exatamente esse tipo de material, e posso garantir que o modelo é o mesmo dos dois lados dessa comparação. O comportamento não é.
Pegue o TrueTrack, um dos nossos próprios projetos, no qual a inteligência foi central ao produto desde o primeiro dia. Ele ajuda equipes de engenharia a registrar suas atividades de P&D conforme acontecem, para que, no fim do ano, uma solicitação de benefício fiscal se sustente com evidência real. Nossa versão inicial mantinha registros do jeito que a maioria das empresas mantém registros: texto livre, arquivos anexados, o significado enterrado em algum lugar nas notas. A IA que apontamos para isso produzia enrolação fluente. A correção teve muito pouco a ver com a IA. Redesenhamos os próprios registros, de modo que cada atividade declare claramente o que um avaliador de fato vai procurar, com um log diário por trás. Mesmo modelo, mesmas perguntas. Agora ele lê a evidência linha por linha e diz quais atividades resistiriam ao escrutínio. A inteligência estava disponível o tempo todo. A estrutura era o que faltava.
Cada ferramenta no seu lugar
Uma pergunta justa neste ponto: se a estrutura importa tanto assim, a IA pode construí-la para você? Ela pode ajudar, e aqui preciso suavizar algo que eu disse no início. Chamei a indexação de a parte que não tem nada a ver com IA. Isso foi um pouco simplista demais. Na prática, as empresas usam cada vez mais um sistema para ler, classificar e arquivar o material corretamente, para que outro possa depois recuperá-lo em contexto. O mesmo mecanismo de reconhecimento, apontado para dois estágios diferentes do processo.
O equívoco está em outro lugar. As pessoas presumem que a máquina simplesmente vai fazer o trabalho do jeito que ele está, bagunça e tudo. Ela vai tentar. E fará um trabalho muito melhor de arquivar, e depois de encontrar, quando os humanos já tiverem decidido antes o que uma boa estrutura parece ser. Cada ferramenta no seu lugar, no fim das contas. Cada estágio usa a inteligência de um jeito diferente, e todo estágio recompensa a preparação. Deveríamos estar ajudando a tecnologia a nos ajudar. Ela retribui o favor em proporção desmedida.
A armadilha do chat prestativo
Aqui está o padrão que continuo vendo, e ele me preocupa mais do que qualquer história de alucinação.
Uma equipe abre uma janela de chat e pede ajuda com o processo já existente. Acelerar o relatório. Arrumar a ata. Redigir a seção. E a ferramenta ajuda, sempre, porque ajudar é para o que ela foi construída. O volume de produção sobe. Parece produção, e essa sensação vicia um pouco.
Mas o processo antigo foi construído em torno de restrições antigas. Em torno do que as pessoas conseguiam ler, guardar na cabeça e checar à mão. Despeje aceleração nesse processo e você automatiza as suas premissas junto com as suas tarefas. Dois anos depois, a equipe está produzindo mais de algo que as novas ferramentas deveriam ter tornado desnecessário, e a distância entre ela e as empresas que se reestruturaram primeiro ficou cara de fechar. Mais rápido é um substituto sedutor de melhor, e ele se acumula na direção errada.
Isso é, no fundo, um problema de decisão precoce. A escolha de como trazer essas ferramentas para uma prática está sendo feita agora mesmo, de forma casual, por quem quer que tenha aberto a janela de chat primeiro. No meu trabalho de consultoria na Vector56 volto sempre à mesma cifra: 80% do risco de inovação é criado durante o projeto de conceito, muito antes de qualquer coisa visível ser construída. O mesmo vale aqui. O erro caro quase nunca é a ferramenta que você comprou. É a estrutura que você pulou.
A pergunta que vale a pena fazer
Então a pergunta útil para uma equipe de liderança está a montante de qualquer escolha de produto: nossa informação está organizada, e nossas instruções são claras o suficiente, para que qualquer uma dessas máquinas consiga entregar o seu melhor trabalho para nós?
Se a resposta for não, a janela de chat ainda vai te bajular por um bom tempo. E é justamente esse o problema.
A versão simples me serviu melhor do que a impressionante: a inteligência está na máquina, e a utilidade está na estrutura que você constrói ao redor dela. Uma você aluga de qualquer provedor. A outra você precisa conquistar.
Publicado originalmente no LinkedIn.