Saltar al contenido

Medición real · no simulada

Pruebas en vivo

Todo lo que calcula el resto de la web sale de un modelo físico. Aquí se comprueba: esta página lanza la tarea de verdad contra la tarjeta del ordenador donde corre, enseña los tokens según salen y guarda la medición. Si el número de la web es mentira, aquí se nota.

—

Modelo
—
Cuantización
—
Archivo
—
KV-cache
—
Contexto
—
Motor
llama.cpp
Consultando…

Un solo slot: las pruebas van de una en una.

1 · Elige la prueba

Cada una es una tarea administrativa real, con su propio prompt.

2 · La tarjeta trabajando

En espera
0tokens 0,0t/s ahora 0,0 stranscurrido

        

3 · Todas las mediciones

Cada ejecución queda guardada. Las medianas excluyen las fallidas y los arranques en frío.

Todas las mediciones del histórico son del mismo modelo: Qwen3.8 27B · cuantizado a 4 bits (Qwen3.8-⁠27B-UD-Q4_K_XL.gguf, 17,55 GB) con la KV-cache en q8_0 (8 bits).

Cuándo Prueba Entrada Salida Lee (t/s) Escribe (t/s) Total Vatios
Cargando histórico…

Cómo se mide

Las cifras de lee (prefill: digerir el documento) y escribe (decode: redactar la respuesta) no las cronometra el navegador: las da el propio motor llama.cpp en el último fragmento del stream. La potencia y la VRAM se leen con nvidia-smi en mitad de la generación, que es cuando la tarjeta está de verdad trabajando.

La primera prueba tras un rato parada suele salir mucho más lenta de lo normal: la tarjeta estaba en reposo. Esas ejecuciones se guardan igual, se marcan como arranque en frío y no cuentan para las medianas.