Problemi comuni con le funzioni avanzate

Quando utilizzi le funzioni avanzate (function calling), potresti riscontrare problemi con alcuni modelli:

  • Descrizione della funzione eccessivamente lunga;

  • Risposta della funzione eccessivamente lunga.

Vediamo queste due problematiche nel dettaglio 👇

Descrizione troppo lunga

Se la descrizione della tua funzione supera i 1024 caratteri, alcuni modelli (come quelli di OpenAI) potrebbero rispondere con un errore e rifiutarsi di rispondere alla richiesta dell'utente. In questo caso, l'Agente risponderà "Mi dispiace, le mie risposte sono limitate. Devi farmi le domande giuste", a prescindere che la funzione sia eseguita o meno.

Se hai una funzione con una descrizione molto lunga:

  1. Sposta parte della descrizione nelle istruzioni;

  2. Mantieni la descrizione della funzione entro 1024 caratteri.

-> Questo ti permetterà, in caso di disservizi, di poter cambiare rapidamente modello e provider senza ulteriori configurazioni.

Anche se ti suggeriamo ti mantenere la descrizione entro i 1024 caratteri, su AIsuru potrai comunque scrivere descrizioni più lunghe, anche se visualizzi un limite di 1024 caratteri per il campo della descrizione.

Risposta della funzione eccessivamente lunga

Se la tua funzione risponde con un testo eccessivamente lungo, il modello linguistico potrebbe rifiutarsi di rispondere dicendo "Mi dispiace, le mie risposte sono limitate. Devi farmi le domande giuste".

Questo problema si verifica perché ogni modello linguistico ha un limite massimo di contesto che può gestire. Il limite varia in base al modello scelto ed è particolarmente comune quando usi un URL di una pagina web come webhook della funzione.

Se hai bisogno di collegare pagine web particolarmente lunghe, ti suggeriamo di:

  1. Estrarre solo le sezioni di testo rilevanti dalla pagina;

  2. Fornire queste informazioni all'Agente in un formato più conciso (come .txt, .md o .json minimizzato);

  3. Considerare l'uso di un modello con una finestra di contesto più ampia.

In questo modo, l'Agente potrà elaborare le informazioni senza superare i limiti del modello.

Nota per la navigazione web: La funzione di ricerca web integrata ha un limite di 200.000 caratteri per le pagine HTML. Se stai usando funzioni personalizzate per accedere a pagine web molto lunghe, considera di utilizzare la funzione integrata di navigazione web o di pre-elaborare i contenuti per ridurne la dimensione.

Come verificare se le funzioni avanzate vengono chiamate?

Per controllare se le tue funzioni vengono effettivamente utilizzate:

  1. Vai alla sezione Conversazioni del tuo Agente

  2. Apri una conversazione in cui pensi sia stata utilizzata una funzione

  3. Cerca l'icona di debug accanto ai messaggi

  4. Clicca sull'icona dello scarafaggio per vedere i dettagli della chiamata alla funzione

Questo ti permetterà di verificare rapidamente se le tue funzioni vengono chiamate e che risultati stanno restituendo.

Last updated