Laboratori
Creua qualsevol model amb qualsevol equip
Una sola taula amb totes les targetes i tots els models. Tu tries quina dada vols veure a cada casella —velocitat, unitats al dia, cost del corrent, memòria que cal— i la taula sencera es torna a calcular. Prem una casella per veure'n el detall.
El que surt d'aquesta taula
Quatre conclusions amb els filtres d'ara mateix
La graella
Tots contra tots
Què és mesurat i què és estimat
La immensa majoria de les caselles d'aquesta taula són ESTIMADES: surten d'un model físic (amplada de banda de memòria i potència de càlcul de cada targeta) calibrat targeta a targeta amb proves públiques i corregit amb la mesura de referència. Les caselles MESURADES porten un punt al costat i la font al detall.
Els models MoE (barreja d'experts) són els de més incertesa: només una part dels seus paràmetres s'activa a cada token, i quant n'aprofita cada motor varia molt. Els preus i el cost del corrent són orientatius. Aquí es mesura velocitat, mai qualitat de la resposta.
Llegeix el mètode sencerCom es llegeix la taula
Cada fila és una targeta o un equip, i cada columna, un model d'IA. A dalt tries la dada que vols a les cel·les: la velocitat, les unitats de feina al dia, el cost del corrent o la memòria que cal. On posa «no hi cap», la targeta no té prou memòria per carregar aquell model amb aquella quantització.
És per comparar d'un cop d'ull. Un model més gran no sempre fa millor la teva feina, i el que compta és si l'equip arriba al volum que tens cada dia. Totes les xifres són estimades menys les de la RTX 3090 Ti, que està mesurada. Com es calcula cada xifra: Mètode.