Il modello chat prende una serie di messaggi come input e restituisce il messaggio generato dal modello come output.
Sebbene il formato chat renda facile avere più turni di conversazione, è altrettanto adatto a compiti a turno singolo senza alcuna conversazione. Un esempio di chiamata API è il seguente:
Il parametro messaggi è il parametro più importante nel metodo createChatCompletion, che contiene più oggetti messaggio. Ogni messaggio ha un ruolo e può esseresistema、utente、assistenteNessuno di loro.
- utente: Rappresenta il messaggio inviato dall'utente, cioè la domanda o l'istruzione inserita dall'utente. Nel codice sopra, sia il secondo che il quarto messaggio sono di tipo utente.
- assistente: Rappresenta la risposta o la risposta data dal chatbot chiamando un algoritmo di IA. Nel codice sopra, il terzo messaggio è un messaggio di tipo assistente.
- sistema: Rappresenta un messaggio inviato dal sistema o dal client tramite codice. Lo scopo dei messaggi di sistema è fornire ulteriori indicazioni o istruzioni all'assistente affinché possa rispondere meglio.
Una chat inizia con un sistema di messaggi di tipo, seguito da messaggi alternati tra utente di tipo e assistente. Un sistema di messaggi di tipologia può aiutare a impostare il comportamento dell'assistente e guidare come rispondere alla domanda dell'utente, come il messaggio di sistema "Sei un assistente AI molto utile" nell'esempio sopra.
L'intera lista dei messaggi può essere molto breve, con un solo messaggio, o molto lunga, occupando diverse pagine.
La cronologia delle chat è importante anche nelle interazioni con chatbot, poiché le istruzioni dell'utente potrebbero dover fare riferimento alle informazioni dei messaggi precedenti. Nell'esempio di codice sopra, l'ultima domanda dell'utente è "Chi è il campione?" "Ha senso solo quando si menziona la Coppa del Mondo 2022 nelle notizie precedenti.
Poiché il modello di machine learning non ha memoria delle richieste precedenti, deve fornire tutte le informazioni rilevanti durante la conversazione. Se un dialogo non rientra nel limite dei token modello, è necessario accorciare.
|
Pubblicato il 28-2-2025 alle 09:45:00
|
|
|
Padrone di casa