De dónde sale cada número

Qué medimos y por qué

Un modelo de lenguaje hace dos cosas muy distintas con un documento, y cada una la limita una pieza diferente del ordenador.

La medición de referencia

Esta es la única cifra que no es estimación: está cronometrada sobre una tarjeta real el 21 de septiembre de 2026.

Con esos números, clasificar y extraer los datos de una factura de luz real (1.052 tokens de entrada, 160 de salida) sale a unos 0,9 segundos leyendo y unos 4,1 segundos escribiendo.

Las fórmulas, tal cual

No hay nada escondido. Esto es literalmente lo que calcula el estimador, en el mismo orden.

1 · Velocidad de escritura

Cada token que se escribe obliga a recorrer los pesos activos del modelo en memoria (t_mem) y a hacer el cálculo asociado (t_c):

t_mem       = pesos_activos_GB ÷ (ancho_de_banda_GB/s × η)
t_c         = 1 ÷ prefill_tps
decode_tps(1) = 1 ÷ (t_mem + t_c)

Con varias peticiones a la vez el recorrido de memoria se comparte entre todas, pero el cálculo no. De ahí que atender a diez personas cunda mucho más que atender a una:

tokens/s agregados (N peticiones) = 0,85 × N ÷ (t_mem + N × t_c)

El 0,85 es lo que rinde el procesado en paralelo real frente al ideal: con él, el modelo da 240 t/s para una RTX 5090 con cuatro peticiones y la medida pública con vLLM es de 223 t/s. El «modo fábrica» de la web usa el punto a partir del cual añadir peticiones apenas suma —cuando el cálculo pesa ya lo mismo que la memoria—, con un tope de 16 y de lo que quepa en la VRAM:

N (modo fábrica) = mín( t_mem ÷ t_c , 16 , peticiones que caben en VRAM )

Ojo: en paralelo solo se abarata escribir. Leer el documento cuesta lo mismo, así que las tareas de mucha lectura y poca escritura (clasificar) ganan menos que las de mucha escritura (extraer, traducir).

2 · Velocidad de lectura

Leer está limitado por cálculo. Cada token de entrada cuesta aproximadamente dos operaciones por parámetro activo:

prefill_tps = κ × TFLOPS × 10¹² ÷ (2 × parámetros_activos)

3 · De la velocidad al trabajo

segundos/doc = tokens_entrada ÷ prefill_tps + tokens_salida ÷ decode_tps
docs/día     = 86.400 ÷ segundos/doc

tokens_entrada y tokens_salida salen de la tarea elegida: una factura para clasificar no ocupa lo mismo que un contrato para auditar.

Cómo se calibra cada tarjeta

Las dos letras griegas de las fórmulas son las que evitan que esto sea papel mojado.

• η (eficiencia de memoria) — ninguna tarjeta alcanza su ancho de banda nominal. Es la fracción que de verdad se aprovecha al recorrer los pesos.
• κ (eficiencia de cálculo) — lo mismo con los TFLOPS: la fracción de la potencia teórica que llega a usarse leyendo.

Ambas se calibran por tarjeta con los benchmarks públicos de llama.cpp (Llama 2 7B en Q4_0, pruebas pp512 y tg128), y luego se corrigen con el ancla medida en la 3090 Ti: si el modelo predice la 3090 Ti con un desvío, ese mismo desvío se aplica al resto. Una tarjeta con benchmark público se muestra como MEDIDO.

Cuando una tarjeta no tiene dato público (novedades, modelos raros), se usan los valores típicos de su familia y arquitectura, y la cifra se marca siempre como ESTIMADO. Nunca se presenta un cálculo como si fuera una medición.

¿Cabe el modelo?

Antes de hablar de velocidad hay que saber si el modelo entra en la tarjeta. No basta con los pesos: cada token de contexto de cada petición simultánea ocupa memoria en la KV-cache.

VRAM necesaria = pesos + KV-cache(contexto × peticiones) + ~1,5 GB de margen

El margen cubre el búfer de cálculo, la memoria que reserva el propio sistema y el escritorio. Si el total supera la VRAM disponible, el ranking lo dice sin rodeos: «no cabe, necesita X GB», y comprueba si entraría repartiéndolo entre dos o cuatro tarjetas iguales.

Cuantización: de qué versión del modelo hablamos

Decir «Qwen3.8 27B» a secas no significa nada: el mismo modelo existe en varias versiones que ocupan y rinden distinto. Por eso en esta web todo modelo se nombra con su cuantización exacta. Cuantizar es comprimir: guardar cada número del modelo con menos bits.

La medición de referencia se hizo con la versión de 4 bits (Qwen3.8-⁠27B-UD-Q4_K_XL.gguf, 17,55 GB): es la que cabe en los 24 GB de una RTX 3090 Ti. En 8 bits ya no entra y sin cuantizar necesita más de 56 GB. Cuando un modelo no existe en la cuantización elegida, la web usa la que tenga y lo avisa. La KV-cache (la memoria de la conversación) se calcula siempre a 16 bits, que es lo prudente; en la medición se usó a 8 bits, y por eso caben 64K de contexto.

Cómo se ordenan los rankings

Todas las ordenaciones salen del mismo cálculo; solo cambia el dato que manda. Las que no aguantan el modelo van siempre al final.

• Trabajo al día: unidades de la tarea en 24 horas seguidas.
• Trabajo por euro: unidades al día ÷ precio de compra (con 2 tarjetas, el de las dos).
• Amortización: precio ÷ ahorro mensual frente a pagar esa misma tarea a la API del mismo modelo, con la tarjeta a pleno rendimiento. Si la API sale más barata que la luz: «no se amortiza».
• Eficiencia: unidades por kWh consumido. Luz por 1.000: euros de electricidad por cada mil unidades.
• Escritura / Lectura: tokens por segundo generando y leyendo. Espera: segundos por unidad con una sola petición.
• Personas: personas en jornada de 8 h que harían ese mismo trabajo. Precio, memoria, consumo: datos de catálogo.

De tokens a personas y a euros

Personas equivalentes

Cada tarea lleva anotado cuántos minutos tarda una persona en hacerla a mano (human_minutes). Con una jornada de 8 horas:

personas_equivalentes = (docs/día × human_minutes) ÷ (8 × 60)

Es una equivalencia de volumen, no una comparación de calidad: dice cuánta gente haría falta para mover ese montón de papel, no que el resultado sea igual de bueno.

Coste eléctrico

coste = W × segundos ÷ 3.600.000 × €/kWh

Se usa el consumo real medido cuando lo hay (361 W en la 3090 Ti) y el TDP de la tarjeta cuando no. El precio del kWh por defecto es orientativo y se puede cambiar. No se cuenta el resto del equipo: placa, procesador, discos y ventilación suman aparte.

Límites y letra pequeña

• No incluye el OCR. Se parte de que el documento ya es texto. Digitalizar un PDF escaneado es un paso aparte, con su propio coste.
• No incluye colas ni arranque. Cargar el modelo, esperar turno o reintentar un fallo no está contado. Son segundos o minutos que en producción existen.
• No se mide la calidad. Aquí solo hay velocidad. Que una tarjeta escriba 40 tokens por segundo no dice nada sobre si el modelo acierta con el importe de la factura.
• Los precios son orientativos. Cambian cada semana, dependen del mercado de segunda mano y no incluyen impuestos ni el resto del equipo.
• Varias tarjetas = réplicas. Cuando se cuentan 2 o 4 tarjetas, se tratan como copias independientes procesando documentos distintos en paralelo, no como una tarjeta más grande y más rápida.
• Un modelo físico no es un banco de pruebas. Las estimaciones aciertan el orden de magnitud y las comparaciones relativas; el número exacto de una tarjeta concreta solo lo da medirla.
• Los datos de terceros van con su enlace. Están todos abajo, uno por uno, para que cualquiera pueda comprobarlos.

Fuentes

136 enlaces, generados a partir de los propios catálogos de datos. Si una cifra está en la web, su origen está en esta lista.

¿Ves una cifra que no cuadra con tu experiencia? Es probable que tengas razón: mide tu tarjeta y compara. Esa es toda la gracia.