El modelo de chat recibe una serie de mensajes como entrada y devuelve el mensaje generado por el modelo como salida.
Aunque el formato de chat facilita tener varias rondas de conversación, es igualmente adecuado para tareas de una sola ronda sin necesidad de conversaciones. Un ejemplo de llamada a API es el siguiente:
El parámetro de mensajes es el más importante en el método createChatCompleting, que contiene múltiples objetos mensaje. Cada mensaje tiene un papel y puede sersistema、usuario、asistenteCualquiera de ellos.
- usuario: Representa el mensaje enviado por el usuario, es decir, la pregunta o instrucción introducida por el usuario. En el código anterior, tanto el segundo como el cuarto mensaje son del tipo usuario.
- asistente: Representa la respuesta o respuesta dada por el chatbot al llamar a un algoritmo de IA. En el código anterior, el tercer mensaje es un mensaje tipo asistente.
- sistema: Representa un mensaje enviado por el sistema o cliente mediante código. El propósito de los mensajes del sistema es proporcionar más orientación o instrucciones al asistente para que pueda responder mejor.
Un chat comienza con un sistema de mensajes de tipos, seguido de mensajes alternados entre usuario de tipo y asistente. Un sistema de mensajes de tipos puede ayudar a establecer el comportamiento del asistente y guiar cómo debe responder a la pregunta del usuario, como el mensaje del sistema "Eres un asistente de IA muy útil" en el ejemplo anterior.
La lista completa de mensajes puede ser muy corta, con solo un mensaje, o muy larga, ocupando varias páginas.
El historial de chat también es importante en las interacciones con chatbots, ya que las instrucciones del usuario pueden necesitar referencias a información de mensajes anteriores. En el ejemplo de código anterior, la última pregunta del usuario es "¿Quién es el campeón?" "Solo tiene sentido cuando se menciona el Mundial 2022 en noticias anteriores.
Dado que el modelo de aprendizaje automático no tiene memoria de peticiones anteriores, debe proporcionar toda la información relevante a través de la conversación. Si un diálogo no encaja dentro del límite de tokens de modelo, se requiere cierto acortamiento.
|