Le modèle de chat prend une série de messages en entrée et renvoie le message généré par le modèle en sortie.
Bien que le format chat facilite plusieurs échanges de conversation, il convient tout aussi bien aux tâches en un seul tour sans aucune conversation. Un exemple d’appel API est le suivant :
Le paramètre messages est le paramètre le plus important de la méthode createChatCompletion, qui contient plusieurs objets message. Chaque message a un rôle et peut êtresystème、utilisateur、assistantN’importe lequel d’entre eux.
- utilisateur : Représente le message envoyé par l’utilisateur, c’est-à-dire la question ou l’instruction saisie par l’utilisateur. Dans le code ci-dessus, les deuxième et quatrième messages sont de type utilisateur.
- assistant : Représente la réponse ou la réponse donnée par le chatbot en appelant un algorithme d’IA. Dans le code ci-dessus, le troisième message est un message de type assistant.
- système : Représente un message envoyé par le système ou le client via du code. Le but des messages système est de fournir des directives ou instructions supplémentaires à l’assistant afin qu’il puisse mieux répondre.
Un chat commence par un système de messages de types, suivi d’alternance de messages de type utilisateur et assistant. Un système de messages de type peut aider à définir le comportement de l’assistant et orienter la manière dont il doit répondre à la question de l’utilisateur, comme le message système « Vous êtes un assistant IA très utile » dans l’exemple ci-dessus.
La liste complète des messages peut être très courte, avec un seul message, ou très longue, occupant plusieurs pages.
L’historique des discussions est également important dans les interactions avec un chatbot, car les instructions de l’utilisateur peuvent devoir se référer aux informations des messages précédents. Dans l’exemple de code ci-dessus, la dernière question de l’utilisateur est « Qui est le champion ? » « Cela n’a de sens que lorsque la Coupe du Monde 2022 est mentionnée dans les actualités précédentes.
Puisque le modèle d’apprentissage automatique ne possède pas de mémoire des requêtes précédentes, il doit fournir toutes les informations pertinentes au cours de la conversation. Si un dialogue ne respecte pas la limite de jetons de modèle, un raccourcissement est nécessaire.
|