Ogni volta che un'applicazione usa l'intelligenza artificiale per generare una risposta, devi fidarti ciecamente che sia stato davvero utilizzato il modello giusto.
Non esiste un modo pratico per verificarlo. Un fornitore può sostituire silenziosamente il modello con una versione più economica e inferiore, e l'utente non lo saprebbe mai.
Questa mancanza di verifica impedisce che l'AI venga usata in contesti dove la fiducia è essenziale, come finanza, sanità o governance.
