Моделът на чат приема серия от съобщения като вход и връща съобщението, генерирано от модела, като изход.
Въпреки че форматът на чата улеснява провеждането на няколко кръга разговор, той е еднакво подходящ и за еднократни задачи без никакви разговори. Пример за API извикване е следният:
Параметърът съобщения е най-важният параметър в метода createChatCompletion, който съдържа множество обекти на съобщения. Всяко съобщение има роля и може да бъдеsystem、user、assistantНито един от тях.
- потребител: Представлява съобщението, изпратено от потребителя, тоест въпроса или инструкцията, въведени от потребителя. В горния код както второто, така и четвъртото съобщение са от тип user.
- асистент: Представя отговора или отговора, даден от чатбота, като извиква алгоритъм с изкуствен интелект. В горния код третото съобщение е съобщение от тип асистент.
- system: Представлява съобщение, изпратено от системата или клиента чрез код. Целта на системните съобщения е да предоставят допълнителни насоки или инструкции на асистента, за да може да отговаря по-добре.
Чатът започва с съобщение от типа система, последвано от редуващи се съобщения от типа потребител и асистент. Система от типа съобщения може да помогне за задаване на поведението на асистента и да насочи как да отговори на въпроса на потребителя, като например системното съобщение "Вие сте много полезен AI асистент" в горния пример.
Целият списък с съобщения може да бъде много кратък, с само едно съобщение, или много дълъг, заемащ няколко страници.
Историята на чата е важна и при взаимодействията с чатботовете, тъй като инструкциите на потребителя може да се нуждаят от информация от предишни съобщения. В примера с код по-горе, последният въпрос на потребителя е "Кой е шампионът?" "Това има смисъл само когато Световното първенство през 2022 г. се споменава в предишните новини.
Тъй като моделът за машинно обучение няма памет за предишни заявки, той трябва да предостави цялата релевантна информация по време на разговора. Ако диалогът не се вписва в лимита на моделните токени, е необходимо някакво съкращаване.
|
Публикувано на 28.02.2025 09:45:00
|
|
|
Хазяин