Infrastruttura e Informatica

SN46: Instant

Instant connette GPU indipendenti a un servizio di inferenza IA veloce e compatibile con OpenAI, con una prova firmata per ogni risposta consegnata.

Instant

Il Problema:

Quando un'applicazione utilizza un fornitore esterno di inferenza IA, si fida ciecamente di ciò che tale fornitore dichiara di fare.

Un fornitore può sostituire il modello pubblicizzato con uno più economico e debole, e l'utente non lo scopre mai.

Anche coordinare centinaia di GPU indipendenti sparse per la rete e distribuire le richieste in modo equo e rapido è una sfida tecnica difficile da risolvere senza un punto di fiducia centrale.

Senza prove verificabili, non c'è modo di confermare che la risposta ricevuta provenga effettivamente dal modello previsto. Per chi costruisce prodotti IA, questo è un problema di fiducia, non solo di prestazioni.

La soluzione:

Instant connette gli operatori GPU registrati su Bittensor a un gateway di inferenza compatibile con OpenAI.

Ogni miner esegue il modello approvato, si connette alla piattaforma tramite WebSocket sicuro e firma una ricevuta al termine di ogni risposta.

Questa ricevuta, combinata con le prove TOPLOC (che incrociano token, stati nascosti del modello e altri dati tecnici), consente alla piattaforma di verificare in modo asincrono se l'inferenza è stata effettivamente generata dal modello previsto. Se la verifica fallisce, il miner viene sospeso dall'instradamento di nuove richieste.

I validatori autenticano i report firmati dalla piattaforma e calcolano punteggi deterministici per ogni miner, basandosi su queste prove.

Il risultato è una rete di inferenza veloce, con un percorso chiaro tra il lavoro svolto e la ricompensa assegnata.

Come acquisire il token

Visita la piattaforma Taostats per ottenere il token di questa rete. È il modo più semplice per convertire i tuoi asset e far parte di questo ecosistema decentralizzato.

Comprare Token