Model chatu prijíma sériu správ ako vstup a vracia správu generovanú modelom ako výstup.
Hoci formát chatu uľahčuje viaceré kolá konverzácie, je rovnako vhodný aj na úlohy na jedno kolo bez akýchkoľvek rozhovorov. Príklad API volania je nasledovný:
Parameter správ je najdôležitejším parametrom v metóde createChatCompletion a obsahuje viacero objektov správ. Každá správa má svoju úlohu a môže byťsystem、user、assistantKtorýkoľvek z nich.
- user: Predstavuje správu odoslanú používateľom, teda otázku alebo inštrukciu zadanú používateľom. V uvedenom kóde sú druhá aj štvrtá správa typu používateľa.
- asistent: Reprezentuje odpoveď alebo odpoveď poskytnutú chatbotom vyvolaním AI algoritmu. V uvedenom kóde je tretia správa typu asistenta.
- systém: Predstavuje správu odoslanú systémom alebo klientom prostredníctvom kódu. Účelom systémových správ je poskytnúť asistentovi ďalšie usmernenie alebo inštrukcie, aby mohol lepšie reagovať.
Chat začína správou typu system, po ktorej nasledujú striedajúce správy typu používateľ a asistent. Systém správ typu môže pomôcť nastaviť správanie asistenta a usmerniť, ako by mal odpovedať na otázku používateľa, napríklad systémová správa "Ste veľmi užitočný AI asistent" v uvedenom príklade.
Celý zoznam správ môže byť veľmi krátky, s iba jednou správou, alebo veľmi dlhý, zaberá niekoľko strán.
História chatu je tiež dôležitá pri interakciách s chatbotmi, pretože inštrukcie používateľa môžu vyžadovať odkaz na informácie o predchádzajúcich správach. V príklade s kódom vyššie je posledná otázka používateľa "Kto je šampión?" "Dáva to zmysel, keď sa v predchádzajúcich správach spomína Majstrovstvá sveta 2022.
Keďže model strojového učenia nemá pamäť na predchádzajúce požiadavky, musí počas konverzácie poskytovať všetky relevantné informácie. Ak dialóg nezapadá do limitu modelových tokenov, je potrebné trochu skrátiť.
|
Zverejnené 2025-2-28 09:45:00
|
|
|
Prenajímateľ