Mistral presenta 'Le Chonk': Mistral Large 4 estrena en Hugging Face con capacidades masivas de ciberseguridad y codificación

Mistral ha lanzado oficialmente Mistral Large 4, cariñosamente apodado 'Le Chonk', en Hugging Face. Este nuevo modelo multimodal y multilingüe utiliza una arquitectura de Mezcla de Expertos (MoE) con aproximadamente 1 billón de parámetros totales y 49 mil millones de parámetros activos. Acepta entradas tanto de texto como de imágenes para generar respuestas de texto y cuenta con una ventana de contexto expansiva de 1 millón de tokens. El lanzamiento incluye dos variantes oficiales junto con cuantizaciones GGUF creadas por Unsloth y el equipo de llama.cpp, todas distribuidas bajo la Licencia de Pesos Abiertos del Ecosistema Mistral, que es un derivado de MIT con limitaciones específicas sobre las ofertas de modelo como servicio.

La arquitectura del modelo combina un gran grupo de expertos con mecanismos de atención dispersa y un codificador de visión Pixtral. El modelo de lenguaje selecciona dinámicamente un pequeño grupo de expertos para cada token, mientras que un indexador de atención determina qué posiciones de tokens anteriores atender, creando dos formas distintas de dispersión. Específicamente, el decodificador de texto consta de 72 capas con una dimensión oculta de 6.144 y 64 cabezas de atención. Emplea Atención Latente Multi-cabeza (MLA) emparejada con un indexador de Atención Dispersa DeepSeek (DSA), que selecciona hasta 2.048 posiciones clave por consulta. La primera capa utiliza una red feed-forward densa, mientras que las restantes 71 capas utilizan bloques MoE donde un enrutador selecciona cuatro de 128 expertos más un experto compartido para cada token.

Mistral Large 4 se posiciona como una herramienta poderosa para la ciberseguridad, agentes de codificación y aplicaciones multimodales. En pruebas independientes realizadas por Artificial Analysis, el modelo obtuvo un 82% en el Índice Cibernético, que evalúa la capacidad de un modelo para reproducir vulnerabilidades reales en software de código abierto y posteriormente parchearlas. Mistral señala que varios modelos fronterizos cerrados obtienen puntuaciones cercanas a cero en esta prueba específica porque se niegan a intentar la fase de reproducción, un paso a menudo necesario para que los defensores corrijan los problemas. Más allá de las pruebas de referencia, las pruebas internas indicaron un fuerte rendimiento en el análisis de malware, la priorización de vulnerabilidades y la escritura de reglas de detección, a pesar de que el modelo no fue entrenado explícitamente para estas tareas.

A pesar de sus capacidades ofensivas en investigación de seguridad, Mistral Large 4 mantiene filtros de seguridad robustos. Está posicionado principalmente para trabajos de seguridad defensiva, abordando el problema donde los modelos de código cerrado podrían bloquear entradas legítimas de investigación de vulnerabilidades o perder disponibilidad durante incidentes críticos. En prompts cibernéticos de JailbreakBench, StrongREJECT y AgentHarm, la tasa promedio de rechazo del modelo supera a la de cualquier otro modelo de pesos abiertos. Para la comunidad en general, la naturaleza de pesos abiertos permite a los usuarios construir sistemas cibernéticos personalizados alrededor de sus propias bases de código y muestras de malware, afinar modelos más pequeños utilizando trazas de Mistral Large 4 y medir directamente los comportamientos de rechazo sin depender de las descripciones del proveedor.

En términos de rendimiento de codificación, Mistral Large 4 logra una puntuación de Índice de Agente de Codificación del 49.8%, colocándose por delante de DeepSeek V4 Pro 0813 y Qwen3.8 Max. Obtiene un 61.7% en DeepSWE v1.1, un 59.4% en SWE-Atlas-QnA y un 28.3% en Terminal-Bench 4. Sus capacidades se extienden al trabajo de conocimiento con una puntuación del 59.9% en AutomationBench y 1.393 Elo en AA-Briefcase. A partir del 29 de octubre de 2026, ocupa el quinto lugar como el mejor modelo de pesos abiertos en el índice de Inteligencia de Artificial Analysis. Además, demuestra una resistencia al ataque del 93.3% en la prueba B3 de Lakera contra ataques de inyección de prompts.

Las opciones de implementación son extensas, con soporte desde el día cero para transformers, vLLM y llama.cpp. El codificador de visión Pixtral utilizado en el modelo tiene 1.600 millones de parámetros, 30 capas y utiliza un proyector de fusión de parches. Para la implementación local, están disponibles cuantizaciones GGUF que van desde IQ2_XXS hasta BF16, con versiones de 2 bits capaces de ejecutarse en una sola computadora Apple Silicon Ultra con 512 GB de RAM unificada. Las pruebas de rendimiento en un M3 Ultra mostraron un rendimiento de prellenado de aproximadamente 90 tokens por segundo y una velocidad de generación de 15 tokens por segundo para la cuantización Q2_K. En cuatro tarjetas RTX6000 Pro, las variantes NVFP4 lograron velocidades de prellenado entre 130 y 590 tokens por segundo dependiendo del tamaño del contexto.

Para la implementación empresarial, Mistral proporciona recetas listas para implementar en Endpoints de Inferencia utilizando ocho GPUs NVIDIA H200. Esta configuración utiliza paralelismo de tensores y expertos con la cabeza de borrador DSpark integrada del modelo para la decodificación especulativa, admitiendo hasta 131K tokens de contexto. Bajo carga, el sistema puede procesar aproximadamente 480 tokens por segundo a través de 1.000 conversaciones ShareGPT. Los usuarios también pueden implementar el modelo en servidores Dell AI utilizando la CLI dell-ai o afinarlo directamente utilizando TRL con soporte para tareas de razonamiento multilingüe.

Fuentes: Hugging Face Blog.