O modelo de chat recebe uma série de mensagens como entrada e retorna a mensagem gerada pelo modelo como saída.
Embora o formato de chat facilite múltiplas rodadas de conversa, ele é igualmente adequado para tarefas em rodada única sem nenhuma conversa. Um exemplo de chamada API é o seguinte:
O parâmetro mensagens é o parâmetro mais importante no método createChatCompletion, que contém múltiplos objetos de mensagem. Cada mensagem tem um papel e pode sersistema、usuário、assistenteQualquer um deles.
- usuário: Representa a mensagem enviada pelo usuário, ou seja, a pergunta ou instrução inserida pelo usuário. No código acima, tanto a segunda quanto a quarta mensagem são do tipo user.
- assistente: Representa a resposta ou resposta dada pelo chatbot ao chamar um algoritmo de IA. No código acima, a terceira mensagem é do tipo assistente.
- sistema: Representa uma mensagem enviada pelo sistema ou cliente através de código. O objetivo das mensagens do sistema é fornecer orientações ou instruções adicionais ao assistente para que ele possa responder melhor.
Um chat começa com um sistema de mensagens de tipos, seguido por mensagens alternadas entre usuário e assistente de tipo. Um sistema de mensagens de tipos pode ajudar a definir o comportamento do assistente e orientar como ele deve responder à pergunta do usuário, como a mensagem do sistema "Você é um assistente de IA muito útil" no exemplo acima.
A lista inteira de mensagens pode ser muito curta, com apenas uma mensagem, ou muito longa, ocupando várias páginas.
O histórico de chat também é importante nas interações com chatbots, pois as instruções do usuário podem precisar referenciar informações de mensagens anteriores. No exemplo de código acima, a última pergunta do usuário é "Quem é o campeão?" "Só faz sentido quando a Copa do Mundo de 2022 é mencionada em notícias anteriores.
Como o modelo de aprendizado de máquina não possui memória de solicitações anteriores, ele deve fornecer todas as informações relevantes durante a conversa. Se um diálogo não se encaixar no limite de token do modelo, é necessário encurtar alguma coisa.
|
Postado em 28-02-2025 09:45:00
|
|
|
Senhorio