Problemi comuni con le funzioni avanzate
Quando utilizzi le funzioni avanzate (function calling), potresti riscontrare problemi con alcuni modelli:
Descrizione della funzione eccessivamente lunga;
Risposta della funzione eccessivamente lunga.
Vediamo queste due problematiche nel dettaglio 👇
Descrizione troppo lunga
Se la descrizione della tua funzione supera i 1024 caratteri, alcuni modelli (come quelli di OpenAI) potrebbero rispondere con un errore e rifiutarsi di rispondere alla richiesta dell'utente. In questo caso, l'Agente risponderà "Mi dispiace, le mie risposte sono limitate. Devi farmi le domande giuste", a prescindere che la funzione sia eseguita o meno.
Se hai una funzione con una descrizione molto lunga:
Sposta parte della descrizione nelle istruzioni;
Mantieni la descrizione della funzione entro 1024 caratteri.
-> Questo ti permetterà, in caso di disservizi, di poter cambiare rapidamente modello e provider senza ulteriori configurazioni.
Risposta della funzione eccessivamente lunga
Se la tua funzione risponde con un testo eccessivamente lungo, il modello linguistico potrebbe rifiutarsi di rispondere dicendo "Mi dispiace, le mie risposte sono limitate. Devi farmi le domande giuste".
Questo problema si verifica perché ogni modello linguistico ha un limite massimo di contesto che può gestire. Il limite varia in base al modello scelto ed è particolarmente comune quando usi un URL di una pagina web come webhook della funzione.
Se hai bisogno di collegare pagine web particolarmente lunghe, ti suggeriamo di:
Estrarre solo le sezioni di testo rilevanti dalla pagina;
Fornire queste informazioni all'Agente in un formato più conciso (come .txt, .md o .json minimizzato);
Considerare l'uso di un modello con una finestra di contesto più ampia.
In questo modo, l'Agente potrà elaborare le informazioni senza superare i limiti del modello.
Come verificare se le funzioni avanzate vengono chiamate?
Per controllare se le tue funzioni vengono effettivamente utilizzate:
Vai alla sezione Conversazioni del tuo Agente
Apri una conversazione in cui pensi sia stata utilizzata una funzione
Cerca l'icona di debug accanto ai messaggi
Clicca sull'icona dello scarafaggio
per vedere i dettagli della chiamata alla funzione
Questo ti permetterà di verificare rapidamente se le tue funzioni vengono chiamate e che risultati stanno restituendo.
Last updated