Um modelo inteligente não ajuda se não tiver para quem ligar
Uma manhã eu abro o e-mail e percebo que três dos meus contêineres estão indo pelo caminho errado.
O plano era normal. Cinco contêineres saem de Istambul, fazem transbordo em Roterdã e depois seguem num único navio pra Baltimore. Um navio só. O cliente já reservou espaço no galpão, contratou os caminhões e distribuiu a carga entre os próprios projetos. Em Baltimore a gente faria o desembaraço, a inspeção e passaria a mercadoria direto pros caminhões dele, sem levar pro nosso galpão.
Dois contêineres saem de Roterdã no navio certo. Três vão primeiro pra Houston. Eles ainda vão chegar a Baltimore, mas com uns cinco ou seis dias de atraso.
No papel, uma pequena mudança de rota. Na operação, já está tudo pegando fogo.
De um lado você tem a transportadora e vários agentes. Um não atende, outro pede e-mail, o operador principal só fala por escrito, e o agente local do porto começa a trabalhar quando a carga chega. Do outro lado está o cliente. Ele tem caminhões, equipe, espaço reservado, prazos, promessas feitas pros próprios clientes. Não quer saber em qual elo aconteceu o erro. A cadeia logística dele foi montada em cima da minha.
Eu não posso simplesmente ligar e dizer: "Temos um atraso." Primeiro preciso entender o que aconteceu, se dá pra redirecionar a carga, qual vai ser o atraso de verdade e o que eu proponho fazer. Preciso dessa resposta em uma hora. Duas no máximo.
É nessa hora que você vê onde termina o modelo inteligente e começa o trabalho de verdade.
Por enquanto, o ser humano ainda é a API
No planejamento da rota, o modelo ajuda. Você passa origem, destino, datas, restrições e dados da carga. Ele pede o que falta, compara opções, monta um plano. Se tem acesso ao e-mail corporativo, calendário e alertas, consegue acompanhar a carga, destacar mudanças importantes e preparar respostas.
Mas parte da informação fica em bases pagas, portais privados das transportadoras e sistemas internos. Alguns não têm API. Às vezes você precisa ligar pra uma pessoa e perceber pela voz se ela tem uma solução ou só está passando a responsabilidade pra frente.
Num momento crítico o modelo não está conectado a essa rede inteira. Então eu viro o dispositivo de entrada. Ligo, converso, escrevo pro suporte, junto pedaços de informação, devolvo tudo ao modelo e pergunto de novo. Ele ajuda a montar o quadro. A execução da decisão ainda fica comigo.
Vou te falar uma coisa: é nas tarefas com muitos fatores que a história do superagente com orçamento ilimitado começa a ficar fraca. Se ele não alcança as pessoas, os sistemas e o estado real da carga, mais tokens não resolvem.
Tecnicamente, um sistema de IA moderno já não é um modelo sozinho. Ao redor dele ficam ferramentas, retrieval, memória externa, permissões, execução de código, monitores, às vezes vários agentes em paralelo. O modelo é o motor. Sem estrada, freio e conexão com o lado de fora, o motor só faz barulho na garagem.
A disputa entre modelos ajuda, mas a arquitetura divide o trabalho
Concorrência faz bem em qualquer setor. Em computação e IA, mais ainda. Os laboratórios pressionam uns aos outros em qualidade, preço, velocidade, contexto e uso de ferramentas. O usuário ganha.
Ao mesmo tempo, na minha rotina, as capacidades básicas dos modelos fortes estão ficando mais próximas. ChatGPT, Claude, DeepSeek e outros sistemas não são água e vinho. Um escreve um e-mail melhor. Outro pesquisa de um jeito mais prático. Um é curto. Outro escreve um muro de texto que ninguém pediu.
Por baixo, as diferenças são sérias. O Transformer denso continua sendo a base geral mais madura. Mixture of Experts, ou MoE, aumenta a capacidade total sem ativar todos os parâmetros em cada token. O DeepSeek-V3 e os modelos maiores do Qwen3 usam esse desenho. O Qwen3 também lançou modelos densos ao mesmo tempo. Ninguém substituiu todo mundo.
Sistemas híbridos dividem o trabalho de novo, combinando atenção completa com mecanismos de sequência mais baratos. Esses mecanismos ajudam com entradas longas. A atenção completa ainda importa quando o modelo precisa recuperar conteúdo com precisão.
Pro usuário, o nome da arquitetura importa menos que o resultado da máquina inteira: qualidade, latência, custo, memória, novas tentativas, taxa de falha. Um benchmark bonito de kernel nunca concluiu o trabalho de um cliente.
A competição de verdade está indo pra esse ponto. Qual sistema lida melhor com incerteza, percebe falta de dados, escolhe a ferramenta certa, confere o próprio resultado e mantém o objetivo depois de quinze etapas?
Uma boa resposta e um processo confiável são coisas diferentes
Pensa num processo com vinte etapas. Cada etapa está certa em 95 por cento dos casos. Parece razoável. Se as etapas forem independentes, a chance de as vinte estarem certas é de mais ou menos 36 por cento. Se cada etapa subir pra 99 por cento, o processo completo ainda fica perto de 82 por cento.
O trabalho real é mais complicado que essa conta. Algumas etapas podem ser verificadas, repetidas ou desfeitas. Os erros podem depender uns dos outros. O princípio continua.
Uma boa resposta do modelo está ficando barata. Uma cadeia confiável de decisões ainda custa caro.
O DeepSeek-R1 é um bom exemplo. Os pesquisadores mostraram que o aprendizado por reforço melhora o raciocínio quando o resultado pode ser verificado com rigor. Matemática, código, tarefas estruturadas de STEM. O modelo tenta, um verificador confere, a tentativa correta recebe a recompensa. Funciona.
O mesmo artigo descreve os limites. O R1-Zero tinha problemas de legibilidade, misturava idiomas e continuava limitado fora das tarefas de raciocínio verificável. O R1 final precisou de um processo em várias etapas, juntando RL, ajuste supervisionado e dados adicionais. DeepSeek-R1 na Nature
No meu problema de transporte não existe um botão único de verificação. O cliente pode aceitar uma opção de recuperação e recusar outra. Um agente pode dizer que o redirecionamento é possível e, uma hora depois, você descobre que o navio já saiu. A transportadora pode cumprir o contrato no papel e mesmo assim quebrar a cadeia do cliente.
Por isso os verificadores importam tanto pros sistemas de agentes. Quanto melhor o modelo fica em otimizar uma métrica, mais perigosa fica uma métrica ruim.
O METR mede capacidade por horizontes de conclusão de tarefas. O número representa a duração humana de tarefas num nível de dificuldade em que o agente tem uma determinada probabilidade de sucesso. Não é o tempo que o modelo trabalha literalmente. Não é uma porcentagem de empregos automatizados. O METR também avisa que estimativas acima de 16 horas não são confiáveis com o conjunto atual. METR Time Horizons
Um horizonte de 50 por cento é interessante pra capacidade. Se o sistema movimenta dinheiro, muda acesso ou escreve pro cliente, eu quero 80 por cento, 95 por cento, registro das ações e caminho de rollback.
Pilotos ainda leem o checklist depois de vinte anos no mesmo avião. Sempre. Esse sempre é o ponto.
Um milhão de tokens ainda pode perder três contêineres
Contexto longo é outro lugar onde o rótulo corre na frente do trabalho. Alguns modelos aceitam um milhão de tokens ou mais. A janela de entrada diz quanto cabe. Não diz se o modelo compara evidências distantes, ignora ruído, preserva ordem e monta uma conclusão usando o conjunto inteiro.
RULER e NoLiMa separam contexto anunciado de contexto efetivo. Um modelo consegue achar uma agulha literal e tem mais dificuldade quando a relação é semântica, a evidência está espalhada e o texto ao redor está cheio de distrações.
No meu caso eu poderia carregar toda a conversa sobre os cinco contêineres, centenas de e-mails, alertas, condições do contrato, horários dos navios. Mas se o sistema não entende que dois números pertencem ao navio direto, três passam por Houston e o prazo do cliente depende da chegada da carga completa, a janela grande vira um galpão grande. Espaço tem. Ordem, não.
Meu processo é mais simples. Dou ao modelo uma base de conhecimento ou um conjunto de documentos, defino a área, a tarefa e o formato da resposta. Quero um resultado curto e estruturado: decisão principal, pontos fracos, riscos, o que reforçar. Depois faço algumas iterações.
Pra uma decisão importante eu abro outro chat, entrego as mesmas fontes e peço uma nova análise. Faço o modelo conferir a si mesmo sem carregar o peso da primeira conversa.
Uma janela gigante não substitui isso. Prefiro um ciclo: pedido, resposta, atualizar o estado curto, remover o que perdeu importância, mandar o próximo pedido. Não precisa puxar o trem inteiro só porque cabe.
Memória também não é igual a aprendizado. Arquivos, resumos, bases vetoriais e RAG são memória externa. Úteis, sim. Não atualizam os pesos do modelo-base. Salva um resumo errado e recupera ele dez vezes, agora o sistema lembra do próprio erro com confiança. Aprendizado contínuo geral sem esquecimento ainda é uma questão de pesquisa.
O preço do token já não é o número principal
Quando o ChatGPT apareceu, parecia um pequeno milagre. Eu gostava de simplesmente conversar com ele, perguntar o que me interessava, usar como um tipo diferente de buscador. Eu ainda não tinha começado a estudar ciência da computação e não entendia o produto matemático por trás daquele chat. Talvez tivessem inventado inteligência artificial de verdade.
Depois as pessoas se acostumaram. Brincaram o suficiente, falando bem direto.
Agora a eficiência vem primeiro. Com que brevidade eu consigo explicar a tarefa? O modelo entende a intenção sem dez páginas de prompt? Dá uma resposta curta quando basta uma resposta curta? Quanto custa o trabalho concluído?
Por isso parte do progresso mais maduro acontece abaixo do modelo. PagedAttention gerencia o KV cache com mais eficiência e aumenta o throughput. DistServe separa o prefill pesado em compute do decode pesado em memória. Prefix caching evita repetir o mesmo trabalho do prompt. Speculative decoding deixa um caminho mais barato propor tokens e o modelo principal verificar.
Os artigos mostram ganhos de várias vezes em condições específicas. Não dá pra multiplicar tudo. Duas otimizações podem atacar o mesmo gargalo. Um ganho num prompt curto pode sumir num longo, e um sistema ajustado pra throughput pode perder a meta de latência.
A métrica honesta é o custo de uma tarefa concluída com sucesso num nível fixo de qualidade. Novas tentativas, revisão humana, correção, tudo entra na conta. Não só tokens.
Quanto menos você sabe, mais cara fica a delegação
Eu não usei modelos de linguagem no cleaning. Saí dessa área antes de eles aparecerem. Mas o princípio é o mesmo no cleaning, no galpão, na linha de produção, na gestão de equipe e na logística: trabalho operacional valoriza precisão e controle. Texto bonito não ajuda se o número está errado.
Se eu conheço a área, consigo conferir a resposta do modelo e tirar valor de verdade. Se entro numa profissão ou negócio que não conheço e aceito a resposta pela confiança, cedo ou tarde aparece um problema. O modelo fala coisas certas e erradas com a mesma voz segura.
As pessoas vão delegar mais mesmo assim. Esse crescimento vai bater em compute, energia, HBM, redes, refrigeração e retirada de calor. A Agência Internacional de Energia estimou que todos os data centers usaram cerca de 415 TWh de eletricidade em 2024 e projeta perto de 945 TWh no caso-base de 2030. Isso inclui todos os data centers, não só IA, mas a escala fica clara. IEA Energy and AI
Slide aceita qualquer promessa. A rede elétrica é menos paciente.
Em cinco anos a IA estará em todo lugar, e mais especializada
Eu espero IA em quase todo dispositivo, incluindo sistemas domésticos. Ao lado dos grandes modelos gerais, vamos ver mais sistemas treinados ou montados desde o começo pra uma área.
Um modelo de logística vai conhecer navios, portos, documentos, restrições e falhas comuns, e não vai saber nada de cinema. Um modelo de cleaning vai entender materiais, tipos de sujeira, equipe e custo de um local, e não vai saber nada de espaço. Um sistema estreito pode ser mais útil que um modelo universal de conversa se estiver mais fundo no processo real e tiver acesso aos dados certos.
Eu não acho que a IA vai simplesmente tirar o trabalho de todo mundo. Espero que internet, redes sociais, livros, artigos e imagens se encham de material barato e ruim. Aí o trabalho feito por mãos humanas vai ganhar valor de novo. Talvez apareça outro tipo de verificação: este texto, livro, imagem ou produto foi feito sem IA.
Vai ser curioso. Primeiro a gente provava que a máquina tinha feito alguma coisa. Depois vamos provar que foi uma pessoa.
A linha aparece quando alguém precisa responder pela decisão
A IA já consegue planejar, pesquisar, comparar, escrever, calcular, ler e-mail e chamar ferramentas. Vai fazer mais disso, mais rápido e mais barato.
Mas quando dois contêineres estão indo pra Baltimore, três de repente passam por Houston, o agente não atende, a transportadora só aceita e-mail e o cliente já está calculando multas, você não precisa de outra resposta bonita.
Precisa falar com alguém. Juntar os fatos. Tomar a decisão. Responder por ela.
Por enquanto, a linha está aí.