Model chatu přijímá sérii zpráv jako vstup a vrací zprávu generovanou modelem jako výstup.
Ačkoliv formát chatu usnadňuje vést více kol konverzace, je stejně vhodný pro úkoly na jedno kolo bez jakýchkoli konverzací. Příklad volání API je následující:
Parametr zpráv je nejdůležitějším parametrem v metodě createChatCompletion a obsahuje více objektů zpráv. Každá zpráva má svou roli a může býtsystem、user、assistantNa žádném z nich.
- uživatel: Představuje zprávu odeslanou uživatelem, tedy otázku nebo instrukci zadanou uživatelem. V uvedeném kódu jsou druhá i čtvrtá zpráva typu uživatele.
- asistent: Reprezentuje odpověď nebo odpověď danou chatbotem vyvolání AI algoritmu. V uvedeném kódu je třetí zpráva typu asistent.
- systém: Představuje zprávu odeslanou systémem nebo klientem prostřednictvím kódu. Účelem systémových zpráv je poskytnout asistentovi další pokyny nebo instrukce, aby mohl lépe reagovat.
Chat začíná zprávou typu system, následovanou střídajícími se zprávami typu uživatel a asistent. Systém typu zprávy může pomoci nastavit chování asistenta a navodit, jak by měl odpovídat na otázku uživatele, například systémovou zprávu "Jste velmi užitečný AI asistent" v uvedeném příkladu.
Celý seznam zpráv může být velmi krátký, pouze jedna zpráva, nebo velmi dlouhý, zabírající několik stránek.
Historie chatu je také důležitá při interakcích s chatboty, protože uživatelské instrukce mohou vyžadovat odkaz na předchozí zprávy. V příkladu s kódem výše je poslední otázka uživatele "Kdo je šampion?" "Dává to smysl, když se v předchozích zprávách zmiňuje mistrovství světa 2022.
Protože model strojového učení nemá paměť předchozích požadavků, musí během konverzace poskytovat všechny relevantní informace. Pokud dialog nezapadá do limitu modelových tokenů, je nutné ho zkrátit.
|
Zveřejněno 28. 2. 2025 09:45:00
|
|
|
Pronajímatel