Чат-модель приймає серію повідомлень як вхід і повертає повідомлення, згенероване моделлю, як вихід.
Хоча формат чату дозволяє легко вести кілька раундів розмов, він однаково підходить для одноразових завдань без жодних розмов. Приклад виклику API:
Параметр повідомлень є найважливішим параметром у методі createChatCompletion, який містить кілька об'єктів повідомлення. Кожне повідомлення має свою роль і може бутиsystem、user、assistantБудь-який із них.
- user: Представляє повідомлення, надіслане користувачем, тобто питання або інструкцію, введену користувачем. У наведеному вище коді обидва повідомлення — друге і четверте — це тип user.
- асистент: представляє відповідь або відповідь, яку дає чат-бот, викликаючи алгоритм ШІ. У наведеному вище коді третє повідомлення — це повідомлення типу асистента.
- system: Представляє повідомлення, надіслане системою або клієнтом через код. Мета системних повідомлень — надавати додаткові рекомендації або інструкції асистенту, щоб він міг краще реагувати.
Чат починається з повідомлення типу системи, за яким слідують по черзі повідомлення користувача типу та асистента. Система повідомлення типу може допомогти налаштувати поведінку асистента та підказати, як він має відповідати на питання користувача, наприклад, системне повідомлення «Ви дуже корисний асистент-ШІ» у наведеному вище прикладі.
Весь список повідомлень може бути дуже коротким — лише одне повідомлення, або дуже довгим, займаючи кілька сторінок.
Історія чату також важлива у взаємодії з чат-ботами, оскільки інструкції користувача можуть потребувати посилатися на інформацію про попередні повідомлення. У наведеному вище прикладі коду останнє питання користувача — «Хто чемпіон?» "Це має сенс лише тоді, коли в попередніх новинах згадується чемпіонат світу 2022 року.
Оскільки модель машинного навчання не має пам'яті попередніх запитів, вона повинна надавати всю релевантну інформацію під час розмови. Якщо діалог не вписується в ліміт токенів моделі, потрібне скорочення.
|
Опубліковано 2025-2-28 09:45:00
|
|
|
Орендодавець