Un agente collegato a cinquanta strumenti non è necessariamente più capace di uno che ne usa dieci. Può però diventare molto più costoso da interrogare: ogni funzione porta con sé nome, descrizione, parametri e vincoli che finiscono nel contesto anche quando quella funzione non servirà. Google prova ad affrontare questo problema con Tool Retrieval, disponibile in preview nella Gemini Interactions API dal 19 novembre 2026. La novità è interessante, ma il numero di token risparmiati non basta per decidere se adottarla.
Il problema non è il numero degli strumenti, ma il loro costo ricorrente
In un’integrazione reale gli strumenti sono eterogenei: interrogare un database, cercare un documento, aggiornare un ticket, leggere una fattura, controllare un server. Ogni operazione richiede uno schema per far capire al modello quali argomenti può passare. In un catalogo grande, ripetere tutti gli schemi a ogni richiesta significa pagare per informazioni che spesso non vengono usate.
Il costo non è soltanto economico. Più informazioni concorrenti vengono presentate al modello, più diventa importante la qualità delle descrizioni e la distinzione fra operazioni simili. Ma attenzione: ridurre il prompt non dimostra automaticamente che l’agente scelga lo strumento giusto. Sono due metriche diverse.
Cosa cambia con Tool Retrieval
Google introduce il tipo di strumento tool_search e il flag defer_loading: true. Per le funzioni differite, il modello continua a vedere nome e descrizione, ma non riceve subito lo schema completo dei parametri. Quando decide che una funzione è pertinente, richiede il relativo schema e procede alla chiamata. Nel percorso gestito dal server, ricerca, recupero dello schema e chiamata sono passaggi osservabili all’interno della stessa richiesta.
Non è una libreria invisibile, né una ricerca semantica che nasconde completamente le funzioni. La descrizione resta una parte fondamentale del contratto: se due tool sono chiamati in modo ambiguo, la fase di recupero può amplificare un problema di catalogazione anziché risolverlo. La documentazione di lancio di Google distingue anche una modalità client-side: il software applicativo può gestire il proprio registro e i filtri di autorizzazione, ma deve sostenere un passaggio di rete aggiuntivo.
Il benchmark che farei prima di cambiare architettura
Prenderei un campione di task reali, non prompt dimostrativi. Per ciascun task confronterei una configurazione con tutti gli schemi disponibili e una con il caricamento differito. Terrei fissi modello, input, dati, strumenti e criteri di successo. Poi misurerei il percorso completo, dalla richiesta iniziale alla verifica dell’azione finale.
- Token di input e output per task completato, includendo i turni aggiuntivi e gli schemi recuperati.
- Latenza end-to-end, non solo tempo della prima risposta del modello.
- Percentuale di selezioni corrette e numero di chiamate inutili o ripetute.
- Errori di autorizzazione, argomenti invalidi e recuperi falliti.
- Costo per task verificato, distinguendo successi, retry e fallimenti.
Se il catalogo contiene cinquanta funzioni ma un task ne usa soltanto due, il caricamento differito può ridurre molto il contesto. Se invece una procedura richiede venti strumenti in sequenza, il risparmio può essere minore e il costo dei passaggi di ricerca più visibile. Non esiste una percentuale universale credibile da promettere senza misurare la distribuzione dei task.
Server-side o client-side: la differenza è anche di controllo
La modalità gestita dal server evita di mantenere un indice proprio. È comoda per partire e riduce la complessità dell’integrazione. La modalità client-side consente invece di decidere quali funzioni esporre in base a cliente, ruolo, permessi e stato operativo. Per un sistema che lavora su dati e servizi di clienti diversi, questa separazione non è un dettaglio di performance: è parte dell’architettura di sicurezza.
Il recupero dello schema non sostituisce comunque l’autorizzazione al momento dell’esecuzione. Il broker deve continuare a verificare identità, scope, permessi e vincoli sulla singola chiamata. Un tool non diventa sicuro solo perché è stato scoperto dinamicamente. E una descrizione visibile al modello non deve mai essere trattata come prova che l’utente abbia autorizzato un’operazione.
Il contesto risparmiato può essere speso meglio
Uno dei benefici potenziali più interessanti non è togliere qualche millisecondo, ma lasciare spazio alle informazioni che servono davvero: stato corrente, esito degli step precedenti, vincoli, errori e criteri di verifica. In un agente operativo, un checkpoint affidabile vale più di cento definizioni di funzione caricate inutilmente.
Questo ragionamento si collega a un tema già affrontato qui: gli agenti hanno bisogno di uno stato persistente. La ricerca dinamica degli strumenti migliora la gestione del catalogo, ma non risolve da sola ripresa dei task, idempotenza, concorrenza o verifica del risultato.
Cosa sappiamo e cosa resta da provare
La funzionalità è in preview, nell’Interactions API, per i modelli indicati da Google a partire dalla famiglia Gemini 3.6. Google dichiara che non esiste un costo separato per Tool Retrieval: i token rimangono fatturati secondo il modello, compresi quelli usati per la ricerca e gli schemi recuperati. Non è un servizio gratuito che elimina la fatturazione degli strumenti.
La riduzione di token è un meccanismo plausibile e direttamente verificabile. Il miglioramento della latenza e della precisione dipende invece dalla composizione del catalogo, dalla qualità delle descrizioni e dai task effettivi. Senza benchmark indipendenti sul proprio carico, presentare quei vantaggi come garantiti sarebbe marketing, non ingegneria.
Una scelta operativa, non un interruttore magico
Per un progetto nuovo partirei con pochi tool ben descritti, schemi chiari e log che permettano di ricostruire ogni scelta. Quando il catalogo cresce, proverei il caricamento differito sulla coda lunga delle funzioni, lasciando disponibili subito quelle usate più spesso. Prima di portarlo in produzione, confronterei risultati e costi per task, non soltanto la dimensione del prompt.
Tool Retrieval è un passo utile verso agenti con cataloghi estesi. Ma l’architettura rimane buona solo quando l’agente sa trovare lo strumento, è autorizzato a usarlo, esegue l’azione giusta e dimostra che il lavoro è finito.
Domande frequenti
Tool Retrieval elimina il costo dei tool nella Gemini API?
No. Non ha un prezzo separato, ma token e schemi recuperati sono fatturati alle tariffe del modello. Il risparmio dipende dagli schemi che non vengono caricati.
Tool Retrieval rende automaticamente più veloce un agente?
Non necessariamente. Riduce i token iniziali in molti cataloghi, ma ricerca e recupero possono aggiungere passaggi. La latenza va misurata end-to-end sui task reali.
Cosa significa defer_loading?
È il flag che mantiene differito lo schema dei parametri di una funzione. Nome e descrizione restano visibili al modello, che può recuperare lo schema quando serve.
È disponibile anche con server MCP?
Google documenta il caricamento differito degli strumenti esposti da server MCP remoti nella Gemini Interactions API.
Come valutare se conviene?
Confronta token, latenza, accuratezza nella scelta dei tool e costo per task completato, includendo retry ed errori.
