Saltar al contenido
1 / 10 Salir

Automata IA Local

¿Qué puede hacer una tarjeta gráfica con IA?

IA en tu propio ordenador, sin nube.

—

—

Fotografía de la GeForce RTX 3090

Qué es esta presentación

Son diez diapositivas para explicar a pantalla completa qué hace una tarjeta gráfica con IA en un ordenador de la oficina: qué es un token, qué quiere decir cuantizar a 4 bits, cómo lee y escribe el modelo y cuánto trabajo saca en un día. Va bien para enseñarlo en una reunión o a quien tiene que decidir la compra.

Arriba eliges la tarjeta, el modelo, la cuantización y el trabajo, y todas las cifras de las diapositivas se vuelven a calcular. Se pasa de diapositiva con las flechas del teclado o con los botones de los lados. La RTX 3090 Ti con Qwen3.8 27B a 4 bits está medida en el laboratorio: 1.158 tokens por segundo leyendo y 39,7 escribiendo. El resto son estimaciones. Cómo se calcula cada cifra: Método.