A csevegőmodell egy sor üzenetet vesz bemenetként, és a modell által generált üzenetet adja vissza kimenetként.
Bár a csevegés formátuma megkönnyíti a több kör beszélgetését, ugyanolyan alkalmas egykörös feladatokra is, beszélgetések nélkül. Egy API hívás példája a következő:
Az üzenetek paramétere a legfontosabb paraméter a createChatCompletion módszerben, amely több üzenetobjektumot tartalmaz. Minden üzenetnek megvan a szerepe, és lehetSystem、user、AssistantBármelyikük.
- user: A felhasználó által küldött üzenetet képviseli, azaz a kérdést vagy utasítást, amelyet a felhasználó adott be. A fenti kódban mind a második, mind a negyedik üzenet a felhasználó típusú.
- asszisztens: A chatbot által adott választ vagy választ képviseli, egy AI algoritmus meghívásával. A fenti kódban a harmadik üzenet asszisztens típusú üzenet.
- rendszer: Egy üzenetet képvisel, amelyet a rendszer vagy kliens kódon keresztül küld. A rendszerüzenetek célja, hogy további útmutatást vagy utasításokat adjanak az asszisztensnek, hogy az jobban tudja reagálni.
A csevegés egy típus-rendszer üzenetével kezdődik, majd váltakozó üzenetek következik a típus felhasználó és az asszisztens között. Egy típusüzenet rendszer segíthet meghatározni az asszisztens viselkedését, és irányítani, hogyan kell válaszolnia a felhasználó kérdésére, például a fenti példában szereplő "Nagyon hasznos AI asszisztens vagy" rendszerüzenet.
Az egész üzenetlista nagyon rövid lehet, csak egy üzenet, vagy nagyon hosszú, több oldalt foglal el.
A csevegési előzmények szintén fontos a chatbot interakciókban, mivel a felhasználói utasításoknak hivatkoznia kell a korábbi üzenetinformációkra. A fenti kódpéldában a felhasználó utolsó kérdése: "Ki a bajnok?" "Ez csak akkor válik értelmet, ha a 2022-es világbajnokságról beszélnek a korábbi hírekben.
Mivel a gépi tanulási modell nem rendelkezik korábbi kérések emlékével, minden releváns információt a beszélgetés során kell megadnia. Ha egy párbeszéd nem fér be a modell token korlátba, szükség van némi rövidítésre.
|