Problemi comuni con le funzioni avanzate

Quando utilizzi le funzioni avanzate (function calling), potresti riscontrare problemi con alcuni modelli:

• Descrizione della funzione eccessivamente lunga;

• Risposta della funzione eccessivamente lunga.

Vediamo queste due problematiche nel dettaglio 👇

Descrizione troppo lunga

Se la descrizione della tua funzione supera i 1024 caratteri, alcuni modelli (come quelli di OpenAI) potrebbero rispondere con un errore e rifiutarsi di rispondere alla richiesta dell'utente. In questo caso, l'Agente risponderà "Mi dispiace, le mie risposte sono limitate. Devi farmi le domande giuste", a prescindere che la funzione sia eseguita o meno.

Se hai una funzione con una descrizione molto lunga:

1. Sposta parte della descrizione nelle istruzioni;

2. Mantieni la descrizione della funzione entro 1024 caratteri.

-> Questo ti permetterà, in caso di disservizi, di poter cambiare rapidamente modello e provider senza ulteriori configurazioni.

Anche se ti suggeriamo ti mantenere la descrizione entro i 1024 caratteri, su AIsuru potrai comunque scrivere descrizioni più lunghe, anche se visualizzi un limite di 1024 caratteri per il campo della descrizione.

Risposta della funzione eccessivamente lunga

Se la tua funzione risponde con un testo eccessivamente lungo, il modello linguistico potrebbe rifiutarsi di rispondere dicendo "Mi dispiace, le mie risposte sono limitate. Devi farmi le domande giuste".

Questo problema si verifica perché ogni modello linguistico ha un limite massimo di contesto che può gestire. Il limite varia in base al modello scelto ed è particolarmente comune quando usi un URL di una pagina web come webhook della funzione.

Se hai bisogno di collegare pagine web particolarmente lunghe, ti suggeriamo di:

1. Estrarre solo le sezioni di testo rilevanti dalla pagina;

2. Fornire queste informazioni all'Agente in un formato più conciso (come .txt, .md o .json minimizzato);

3. Considerare l'uso di un modello con una finestra di contesto più ampia.

In questo modo, l'Agente potrà elaborare le informazioni senza superare i limiti del modello.