Modelul de chat primește o serie de mesaje ca intrare și returnează mesajul generat de model ca ieșire.
Deși formatul de chat face ușoară purtarea mai multor runde de conversație, este la fel de potrivit pentru sarcini într-o singură rundă, fără nicio conversație. Un exemplu de apel API este următorul:
Parametrul mesajelor este cel mai important parametru în metoda createChatCompletion, care conține mai multe obiecte mesaje. Fiecare mesaj are un rol și poate fiSystem、User、AssistantOricare dintre ele.
- utilizator: Reprezintă mesajul trimis de utilizator, adică întrebarea sau instrucțiunea introdusă de utilizator. În codul de mai sus, atât al doilea, cât și al patrulea mesaj sunt de tipul user.
- Asistent: Reprezintă răspunsul sau răspunsul dat de chatbot prin apelarea unui algoritm AI. În codul de mai sus, al treilea mesaj este un mesaj de tip asistent.
- sistem: Reprezintă un mesaj trimis de sistem sau client prin cod. Scopul mesajelor sistemului este de a oferi asistentului îndrumare sau instrucțiuni suplimentare, astfel încât acesta să poată răspunde mai bine.
Un chat începe cu un sistem de mesaje de tipuri, urmat de alternanțe între utilizator de tip și asistent. Un sistem de mesaje de tip poate ajuta la setarea comportamentului asistentului și poate ghida modul în care ar trebui să răspundă la întrebarea utilizatorului, cum ar fi mesajul sistemului "Ești un asistent AI foarte util" din exemplul de mai sus.
Întreaga listă de mesaje poate fi foarte scurtă, cu un singur mesaj sau foarte lungă, ocupând mai multe pagini.
Istoricul conversațiilor este de asemenea important în interacțiunile cu chatbot-ul, deoarece instrucțiunile utilizatorului pot necesita să facă referire la informațiile anterioare ale mesajelor. În exemplul de cod de mai sus, ultima întrebare a utilizatorului este "Cine este campionul?" "Are sens doar când Cupa Mondială din 2022 este menționată în știrile anterioare.
Deoarece modelul de învățare automată nu are memorie a cererilor anterioare, trebuie să furnizeze toate informațiile relevante pe parcursul conversației. Dacă un dialog nu se încadrează în limita tokenului modelului, este necesară o scurtare.
|
Postat la 28-02-2025 09:45:00
|
|
|
Proprietarul