Eseguire modelli AI avanzati richiede solitamente hardware costoso e infrastrutture complesse, fuori dalla portata della maggior parte delle persone.
Quando usi servizi cloud, i tuoi dati e prompt escono dal computer, il che solleva questioni di privacy.
Allo stesso tempo, milioni di computer personali hanno capacità di calcolo inutilizzata, non sfruttata.
Manca un modo semplice per collegare questa capacità a chi ha bisogno di inferenza AI locale.
