#5 Promessas descentralizadas, juízes instáveis e trade-offs mais inteligentes
Zuckerberg diz que a IA vai nos libertar. Mas o histórico dele diz o contrário¶
Um manifesto escrito por Mark Zuckerberg sobre a visão dele para os próximos anos com a IA. Ele apresenta uma percepção otimista de como os humanos vão se beneficiar da IA, propondo uma filosofia de empoderamento individual como fonte de prosperidade.
A Meta lidera vários projetos em diferentes áreas, e Zuckerberg apresenta argumentos razoáveis para o investimento que a empresa vem fazendo.
Ao oferecer acesso gratuito ou barato a essas ferramentas de IA, argumenta ele, qualquer pessoa pode tirar o máximo proveito delas. Descentralizar o poder, tirando-o de um pequeno grupo de pessoas e entregando-o a todos, vai melhorar a vida, a economia e a educação delas.
É um bom manifesto, mas ainda tenho muitas dúvidas sobre isso. Não é segredo que a empresa dele é uma das "Big Seven". Elas dominam todo mundo com produtos que são, de certa forma, armas silenciosas de controle. Facebook, Instagram e WhatsApp estão em todo lugar. Essas ferramentas foram construídas com a ajuda dos melhores neurocientistas para capturar e prender a atenção das pessoas. Os Estados Unidos estão fazendo o que sabem fazer de melhor: tentando monopolizar o poder da IA enquanto distribuem versões controladas e monitoradas dos seus modelos para o resto do mundo. Eu acredito que a IA vai nos beneficiar muito, mas não consigo tirar os olhos dos movimentos que as "Big 7" estão fazendo.
The Future is for EveryoneRead Mark Zuckerberg’s piece on our values for building superintelligence for everyone.meta.comSeu juiz LLM não é tão seguro quanto parece¶
Este artigo coloca à prova a precisão dos principais LLMs quando usados como "LLM-as-Judge". Os pesquisadores da Meta por trás dele criaram o que chamam de Wiggle Framework, que testa 9 modelos de fronteira em 14 tarefas de julgamento diferentes para ver o quão estáveis os veredictos deles realmente são.
O framework verifica três coisas: o quão consistente um modelo é quando recebe a mesma pergunta de novo, como ele se sai diante de uma única contestação e como ele se sai sob pressão contínua.
Os modelos mostraram pouca variação quando simplesmente receberam a mesma pergunta de novo, mas essa estabilidade desmoronou sob pressão. Os veredictos mudaram de 25% a 71% das vezes diante de uma contestação estática, e de 62% a 91% das vezes diante de um persuasor adversário argumentando ativamente contra o veredicto original.
Quando o veredicto de um modelo de fato mudou sob pressão, ele quase sempre se afastou da resposta correta, e não se aproximou dela. Um achado preocupante…
Jagged Judges: Epistemic Stability Under Perturbation, Pressure, and PersistenceLLM judges have become central infrastructure for model evaluations, online grading, and reward modeling. Judges are typically validated by accuracy on golden data, but accuracy says little about whether they are stable under re-prompting, challenge, or sustained pushback. We introduce the…arXiv.org
Mais espertos em matemática, perdidos nos fatos¶
Encontrei este post de blog que argumenta que os laboratórios de IA estão deliberadamente trocando conhecimento factual por capacidade de raciocínio em modelos menores.
Segundo o post, os modelos pequenos de raciocínio estão ficando drasticamente mais inteligentes por parâmetro. O GLM-5.2 marca 99,2% no AIME 2026 com apenas 40 bilhões de parâmetros ativos, bem menos do que o GPT-4 precisava em 2023. Mas faça uma pergunta factual básica a esses mesmos modelos e o cenário se inverte. Os modelos menores do Qwen3.5 alucinam de 80% a 82% das vezes em perguntas puramente de conhecimento.
A lógica é que fatos ocupam muito espaço nos pesos de um modelo, enquanto habilidades de raciocínio se comprimem muito melhor e se transferem bem no treinamento. Então os laboratórios estão removendo o conhecimento factual profundo e se apoiando em ferramentas externas, como busca e recuperação, para fornecer os fatos em tempo de execução.
O ponto principal do autor é que fatos ficam desatualizados, mas procedimentos não, e esse arranjo também resolve boa parte das alucinações. Um fato errado em um documento pode ser encontrado e corrigido, enquanto um fato errado gravado nos pesos de um modelo não pode.
Models Are Getting Dumber on Purpose - Walter van der GiessenReasoning scores climb while per-token compute drops. Labs are stripping world knowledge out of models, and I think that's the right trade.Walter van der Giessen - dev blogA SpaceXAI lança o agente autônomo Grok Bot¶
A SpaceXAI lançou o Grok Bot, um sistema de agentes de IA persistentes que rodam em computadores dedicados na nuvem e conseguem interagir com sites, aplicativos e caixas de entrada. Diferente de agentes focados em programação, como Claude Code ou Codex, o Grok Bot mira fluxos de trabalho de negócio mais amplos.
Cada Bot lembra contexto e preferências, e consegue até aprender uma tarefa só de vê-la ser feita uma vez. Vários Bots também podem rodar em paralelo, se comunicar entre si e dividir o trabalho entre agentes especializados, envolvendo um humano só quando uma decisão é necessária.
O lançamento vem logo depois da recente aquisição do Cursor pela SpaceX, reunindo os esforços de IA das duas sob o mesmo teto. O Grok Bot está atualmente em beta para assinantes do SuperGrok Heavy, Cursor Ultra e Cursor Teams Premium.
SpaceXAI Launches Grok Bot for Autonomous AI AgentsSpaceXAI has introduced Grok Bot, a system of persistent AI agents that operate on dedicated cloud computers and can interact with websites, applications, inboxes, and other tools.InfoQ