Model czatu przyjmuje serię wiadomości jako wejście i zwraca wygenerowaną przez model wiadomość jako wyjście.
Chociaż format czatu ułatwia prowadzenie kilku rund rozmowy, jest równie odpowiedni do zadań jednorundowych bez żadnych rozmów. Przykładem wywołania API jest następujący:
Parametr wiadomości jest najważniejszym parametrem w metodzie createChatCompletion i zawiera wiele obiektów wiadomości. Każda wiadomość ma swoją rolę i może byćsystem、user、assistantKtóremukolwiek z nich.
- użytkownik: Reprezentuje wiadomość wysłaną przez użytkownika, czyli pytanie lub instrukcję wpisaną przez użytkownika. W powyższym kodzie zarówno druga, jak i czwarta wiadomość są typu użytkownika.
- asystentka: Reprezentuje odpowiedź lub odpowiedź udzielaną przez chatbota poprzez wywołanie algorytmu AI. W powyższym kodzie trzecia wiadomość to komunikat typu asystenta.
- system: Reprezentuje wiadomość wysyłaną przez system lub klienta za pomocą kodu. Celem komunikatów systemowych jest udzielanie dodatkowych wskazówek lub instrukcji asystentowi, aby mógł lepiej reagować.
Czat zaczyna się od wiadomości typu system, po której następują naprzemienne wiadomości typu użytkownika i asystenta. System typu komunikatów może pomóc ustawić zachowanie asystenta i wyznaczyć, jak powinien odpowiedzieć na pytanie użytkownika, na przykład w powyższym przykładzie komunikat systemowy "Jesteś bardzo użytecznym asystentem AI".
Cała lista wiadomości może być bardzo krótka, z jedną wiadomością, lub bardzo długa, zajmująca kilka stron.
Historia czatu jest również ważna w interakcjach z chatbotami, ponieważ instrukcje użytkownika mogą wymagać odniesienia się do informacji z poprzednich wiadomości. W przykładzie kodu powyżej, ostatnie pytanie użytkownika brzmi: "Kto jest mistrzem?" "To ma sens, gdy w poprzednich wiadomościach wspomina się o Mistrzostwach Świata 2022.
Ponieważ model uczenia maszynowego nie posiada pamięci wcześniejszych żądań, musi dostarczać wszystkie istotne informacje podczas rozmowy. Jeśli dialog nie mieści się w limicie tokenów modelu, konieczne jest skrócenie.
|
Opublikowano 2025-2-28 09:45:00
|
|
|
Ziemianin