A Mistral lançou oficialmente o Mistral Large 4, carinhosamente apelidado de 'Le Chonk', no Hugging Face. Este novo modelo multimodal e multilíngue utiliza uma arquitetura Mixture-of-Experts (MoE) com aproximadamente 1 trilhão de parâmetros totais e 49 bilhões de parâmetros ativos. Ele aceita entradas de texto e imagem para gerar respostas em texto e possui uma janela de contexto expansiva de 1 milhão de tokens. O lançamento inclui duas variantes oficiais, juntamente com quantizações GGUF criadas pela Unsloth e pela equipe do llama.cpp, todas distribuídas sob a Licença de Pesos Abertos do Ecossistema Mistral, que é um derivado da MIT com limitações específicas sobre ofertas de modelo como serviço.
A arquitetura do modelo combina um grande pool de especialistas com mecanismos de atenção esparsa e um codificador de visão Pixtral. O modelo de linguagem seleciona dinamicamente um pequeno grupo de especialistas para cada token, enquanto um indexador de atenção determina quais posições de tokens anteriores devem ser atendidas, criando duas formas distintas de esparsidade. Especificamente, o decodificador de texto consiste em 72 camadas com uma dimensão oculta de 6.144 e 64 cabeças de atenção. Ele emprega Atenção Latente Multi-cabeça (MLA) pareada com um indexador DeepSeek Sparse Attention (DSA), que seleciona até 2.048 posições-chave por consulta. A primeira camada usa uma rede feed-forward densa, enquanto as 71 camadas restantes utilizam blocos MoE onde um roteador seleciona quatro de 128 especialistas mais um especialista compartilhado para cada token.
O Mistral Large 4 é posicionado como uma ferramenta poderosa para cibersegurança, agentes de codificação e aplicações multimodais. Em testes independentes realizados pela Artificial Analysis, o modelo obteve 82% no Cyber Index, que avalia a capacidade de um modelo de reproduzir vulnerabilidades reais em software de código aberto e subsequentemente corrigi-las. A Mistral observa que vários modelos fronteiriços fechados pontuam próximo de zero neste teste específico porque se recusam a tentar a fase de reprodução, um passo frequentemente necessário para que os defensores corrijam problemas. Além dos benchmarks, testes internos indicaram forte desempenho em análise de malware, priorização de vulnerabilidades e escrita de regras de detecção, apesar do modelo não ter sido explicitamente treinado para essas tarefas.
Apesar de suas capacidades ofensivas na pesquisa de segurança, o Mistral Large 4 mantém filtros de segurança robustos. Ele é posicionado principalmente para trabalho defensivo em segurança, abordando a questão onde modelos de fonte fechada podem bloquear entradas legítimas de pesquisa de vulnerabilidades ou perder disponibilidade durante incidentes críticos. Em prompts cibernéticos do JailbreakBench, StrongREJECT e AgentHarm, a taxa média de recusa do modelo excede a de qualquer outro modelo de pesos abertos. Para a comunidade em geral, a natureza de pesos abertos permite que os usuários construam sistemas cibernéticos personalizados ao redor de suas próprias bases de código e amostras de malware, ajustem modelos menores usando rastros do Mistral Large 4 e meçam diretamente comportamentos de recusa sem depender de descrições dos provedores.
Em termos de desempenho em codificação, o Mistral Large 4 alcança uma pontuação de Índice de Agente de Codificação de 49,8%, colocando-o à frente do DeepSeek V4 Pro 0813 e do Qwen3.8 Max. Ele pontua 61,7% no DeepSWE v1.1, 59,4% no SWE-Atlas-QnA e 28,3% no Terminal-Bench 4. Suas capacidades se estendem ao trabalho de conhecimento com uma pontuação de 59,9% no AutomationBench e 1.393 Elo no AA-Briefcase. Até 29 de outubro de 2026, ele é classificado como o quinto melhor modelo de pesos abertos no índice de Inteligência da Artificial Analysis. Além disso, demonstra resistência a ataques de 93,3% no benchmark B3 da Lakera contra ataques de injeção de prompt.
As opções de implantação são extensas, com suporte no dia zero para transformers, vLLM e llama.cpp. O codificador de visão Pixtral usado no modelo possui 1,6 bilhão de parâmetros, 30 camadas e utiliza um projetor patch-merge. Para implantação local, estão disponíveis quantizações GGUF que variam de IQ2_XXS a BF16, com versões de 2 bits capazes de rodar em um único computador Apple Silicon Ultra com 512 GB de RAM unificada. Testes de desempenho em um M3 Ultra mostraram uma taxa de transferência de pré-preenchimento de aproximadamente 90 tokens por segundo e uma velocidade de geração de 15 tokens por segundo para a quantização Q2_K. Em quatro placas RTX6000 Pro, as variantes NVFP4 alcançaram velocidades de pré-preenchimento entre 130 e 590 tokens por segundo, dependendo do tamanho do contexto.
Para implantação empresarial, a Mistral fornece receitas prontas para implantação nos Endpoints de Inferência usando oito GPUs NVIDIA H200. Esta configuração utiliza paralelismo de tensor e especialista com a cabeça de rascunho DSpark integrada ao modelo para decodificação especulativa, suportando até 131K tokens de contexto. Sob carga, o sistema pode processar aproximadamente 480 tokens por segundo em 1.000 conversas ShareGPT. Os usuários também podem implantar o modelo nos Servidores AI da Dell usando a CLI dell-ai ou ajustá-lo diretamente usando TRL com suporte para tarefas de raciocínio multilíngue.
Fontes: Hugging Face Blog.