I modelli di frontiera (i modelli IA attualmente più avanzati) offrono la migliore accuratezza sul mercato, ma richiedono un hardware pesante e costoso per funzionare.
Questo li rende poco pratici per chi ha bisogno dell'IA solo per un'attività specifica.
Molti team finiscono bloccati tra due estremi. O pagano per l'infrastruttura necessaria a far girare modelli giganti, oppure usano modelli piccoli che sacrificano la qualità. Nessuna delle due opzioni è ideale per la produzione.
Manca anche un modo affidabile per confermare se un modello più piccolo mantenga effettivamente l'accuratezza di un modello di frontiera. Senza questa garanzia, fidarsi di un modello compresso è sempre un rischio.
