[AI] (16) Semantiskais kodols ir balstīts uz Qwen, lai pārbaudītu funkciju izsaukšanu

Maz putas · Publicēts 2025-3-26 17:46:52

Prasības: Izmantojiet lielus modeļus, lai iegūtu reāllaika informāciju, piemēram, pašreizējo laiku, šodienas laika apstākļus, pārbaudiet ekspress piegādi utt., vai izmantojiet lielus modeļus, lai analizētu biznesa datus, jums jāizmanto funkciju izsaukšanas funkcija. Daudzi raksti internetā par funkciju izsaukšanu ir ļoti neskaidri un skaidri neizskaidroti, un es saprotu šo funkciju, pamatojoties uz pieprasījuma informāciju.

Vispirms apskatīsim renderējumus un izmantosim lielo modeliIegūstiet pašreizējo laiku, laika apstākļus Šanhajā, un kalkulatoru, kas man palīdzēja ieslēgt datoru, kā parādīts attēlā:

OpenAI saskarnes dokumentācija:Hipersaites pieteikšanās ir redzama., kā parādīts attēlā:

Funkciju izsaukšana

Lieli modeļi var nebūt efektīvi, saskaroties ar reālā laika problēmām, matemātiskiem aprēķiniem un citām problēmām. Funkciju izsaukšanas funkciju var izmantot, lai iespējotu lieliem modeļiem mijiedarboties ar ārpasauli, ieviešot ārējus rīkus.

Funkciju izsaukšana ir jauna funkcija, kas savieno lielus modeļus ar ārējiem rīkiem un API, lai palīdzētu lieliem modeļiem virzīties uz faktisku rūpniecisku ieviešanu. Funkciju zvanīšana ļauj izstrādātājiem drošāk iegūt strukturētus datus no modeļiem, lietotājiem neievadot sarežģītas uzvednes.

Lietojot, jūs varat aprakstīt modeļa funkciju kopas funkcijas un definīcijas dabiskā valodā; Sarunas laikā, kad lielais modelis uzskata, ka tam ir jāizmanto funkcija, tas gudri izvēlēsies funkciju un atgriezīsies, lai izsauktu nepieciešamos parametrus, lai apmierinātu lietotāja īpašās vajadzības. Citos gadījumos lielais modelis neatgriezīs funkciju un turpinās sarunu. Lielais modelis tieši neizsauc funkciju, bet atgriež atbilstošos ievades parametrus, un jūs pats varat izsaukt funkciju/API interfeisu.

Vienkārši izsakoties, funkciju izsaukšana ir "tulkotājs" starp dabisko valodu un informācijas saskarnēm

Tulkojiet dabisko valodu nepieciešamajās funkcijās un parametros un atgrieziet to lielajam modeļa zvanītājam
Pēc tam, kad lielā modeļa zvanītājs izpilda funkciju, rezultāts tiek atgriezts lielajā modelī, un lielo modeli var apkopot dabiskajā valodā vai turpināt plānot apakšuzdevumus

Darbplūsmas diagramma ir parādīta zemāk:

Semantiskais kodols

Semantiskais kodols ir viegls, atvērtā koda izstrādes komplekts, ko var izmantot, lai viegli ģenerētu AI aģentus un integrētu jaunākos AI modeļus C#, Python vai Java kodu bāzēs. Tā darbojas kā efektīva starpprogrammatūra, kas ļauj ātri piegādāt uzņēmuma līmeņa risinājumus.

Dokumentācija:Hipersaites pieteikšanās ir redzama.
Avots:Hipersaites pieteikšanās ir redzama.

C# izsauc Alibaba Cloud Tongyi Qianwen, lai izpildītu funkciju izsaukšanu

Izveidojiet jaunu .NET 8 konsoles projektu ar šādām atsaucēm:

Pieteikšanās ir redzama.

Kods ir šāds:

Pieteikšanās ir redzama.

Palaidiet programmu, kas sākumā ir renderēšana, iegūstiet pašreizējo laiku un Šanhajas laika apstākļus un atveriet kalkulatoru.

Izpildes žurnāls:

=============================================================================
Request:
Method: POST
Uri: Hipersaites pieteikšanās ir redzama.
Pieprasījuma saturs: {"tools":[{"function":{"description":"Ļoti noderīgi, ja vēlaties uzzināt, kāds ir laiks." ,"name":"itsvse-get_current_time","strict":false,"parameters":{"type":"object","required":[],"properties":{}}},"type":"function"},{"function":{"description":" Tas ir noderīgi, ja šodien vēlaties pārbaudīt konkrētās pilsētas laika apstākļus. ","name":"itsvse-get_current_weather","strict":false,"parameters":{"type":"object","required":["location"],"properties":{"location":{"description":"Pilsēta vai apgabals, piemēram, Pekina, Šanhaja, Hangzhou pilsēta, Yuhang rajons utt. ","type":"string"}}}},"type":"function"},{"function":{"description":"Tas ir ļoti noderīgi, ja vēlaties vaicāt norādīto ekspress loģistikas informāciju." ","name":"itsvse-get_current_test","strict":false,"parameters":{"type":"object","required":["no"],"properties":{"no":{"description":"Ir pieņemami kurjera izsekošanas numuri, piemēram, SF, ZTO un pasta kurjera izsekošanas numuri." ","type":"string"}}}},"type":"function"},{"function":{"description":"Ļoti noderīgi, ja vēlaties atvērt kalkulatoru." ,"name":"itsvse-open_calculator","strict":false,"parameters":{"type":"object","required":[],"properties":{}}},"type":"function"}],"messages":[{"role":"user","content" "Sveiki, lūdzu, palīdziet man pārbaudīt pašreizējo laiku un šodienas laika apstākļus Šanhajā." Tad palīdziet man ar pulksteņa kalkulatoru, es vēlos aprēķināt šodienas ienākumus. "}],"model":"qwen-max","tool_choice":"auto","parallel_tool_calls":true}
Response:
Statusa kods: OK
Body: {"choices":[{"message":{"content":"","role":"assistant","tool_calls":[{"function":{"name":"itsvse-get_current_time","arguments":"{}"},"index":0,"id":"call_6e6cade782f54c9ca87186","type":"function"},{"function":{"name":"itsvse-get_current_weather","arguments":"{\"location\": \"上海市\"}"},"index":1,"id":"call_cc957be34f5741f4b2a969","type":"function"},{"function":{"name":"itsvse-open_calculator","arguments":"{}"},"index":2,"id":"call_6023df74d7bd48c789e876","type":"function"}]},"finish_reason":"tool_calls","index":0,"logprobs":null}],"object":"chat.completion","usage":{"prompt_tokens":500,"completion_tokens":53,"total_tokens":553,"prompt_tokens_details":{"cached_tokens":256}},"created":1742980780,"system_fingerprint":null,"model":"qwen-max","id":"chatcmpl-1761acb9-717a-997c-9f17-7284e82fd121"}
=============================================================================
----------------------- sauc par laika iegūšanas metodi-----------------------
----------------------------------------------------------------
----------------------- sauc par laika apstākļu iegūšanas metodi-----------------------
Parametrs: Šanhaja
----------------------------------------------------------------
----------------------- Atveriet datora kalkulatoru-----------------------
=============================================================================
Request:
Method: POST
Uri: Hipersaites pieteikšanās ir redzama.
Pieprasījuma saturs: {"tools":[{"function":{"description":"Ļoti noderīgi, ja vēlaties uzzināt, kāds ir laiks." ,"name":"itsvse-get_current_time","strict":false,"parameters":{"type":"object","required":[],"properties":{}}},"type":"function"},{"function":{"description":" Tas ir noderīgi, ja šodien vēlaties pārbaudīt konkrētās pilsētas laika apstākļus. ","name":"itsvse-get_current_weather","strict":false,"parameters":{"type":"object","required":["location"],"properties":{"location":{"description":"Pilsēta vai apgabals, piemēram, Pekina, Šanhaja, Hangzhou pilsēta, Yuhang rajons utt. ","type":"string"}}}},"type":"function"},{"function":{"description":"Tas ir ļoti noderīgi, ja vēlaties vaicāt norādīto ekspress loģistikas informāciju." ","name":"itsvse-get_current_test","strict":false,"parameters":{"type":"object","required":["no"],"properties":{"no":{"description":"Ir pieņemami kurjera izsekošanas numuri, piemēram, SF, ZTO un pasta kurjera izsekošanas numuri." ","type":"string"}}}},"type":"function"},{"function":{"description":"Ļoti noderīgi, ja vēlaties atvērt kalkulatoru." ,"name":"itsvse-open_calculator","strict":false,"parameters":{"type":"object","required":[],"properties":{}}},"type":"function"}],"messages":[{"role":"user","content" "Sveiki, lūdzu, palīdziet man pārbaudīt pašreizējo laiku un šodienas laika apstākļus Šanhajā." Tad palīdziet man ar pulksteņa kalkulatoru, es vēlos aprēķināt šodienas ienākumus. "},{"role":"assistant","content":"","tool_calls":[{"id":"call_6e6cade782f54c9ca87186","function":{"name":"itsvse-get_current_time","arguments":"{}"},"type":"function" ","index":0},{"id":"call_cc957be34f5741f4b2a969","function":{"name":"itsvse-get_current_weather","arguments":"{\"location\": \"Shanghai\"}"},"type":"function","index":1},{" id":"call_6023df74d7bd48c789e876","function":{"name":"itsvse-open_calculator","arguments":"{}"},"type":"function","index":2}]},{"role":"tool","tool_call_id":"call_ 6e6cade782f54c9ca87186","content":"2025/3/26 17:19:40"},{"role":"tool","tool_call_id":"call_cc957be34f5741f4b2a969","content":"Laika apstākļi Šanhaja ir šādi: mākoņains ar pērkona negaisu, temperatūra no 10°C līdz 20°C"},{" role":"rīks","tool_call_id":"call_6023df74d7bd48c789e876","content":"Kalkulators atvērts." }],"model":"qwen-max","tool_choice":"auto","parallel_tool_calls":true}
Response:
Statusa kods: OK
Body: {"choices":[{"message":{"content":"现在的时间是2025年3月26日17点19分40秒。\n\n今天上海市的天气情况如下：多云转雷阵雨，气温介于10°C到20°C之间，请记得带伞哦。\n\n我已经帮你打开了计算器，你可以开始计算今天的收入了。","role":"assistant"},"finish_reason":"stop","index":0,"logprobs":null}],"object":"chat.completion","usage":{"prompt_tokens":621,"completion_tokens":70,"total_tokens":691,"prompt_tokens_details":{"cached_tokens":0}},"created":1742980783,"system_fingerprint":null,"model":"qwen-max","id":"chatcmpl-b0bd149e-3f5b-9a53-91d7-7bb26487d822"}
=============================================================================
Asistents > tagad ir 17:19:40, 26 martā, 2025 (UTC)

Laika apstākļi Šanhaja šodien ir šādi: mākoņains līdz pērkona negaiss, temperatūra no 10°C līdz 20°C, lūdzu, atcerieties ņemt līdzi lietussargu.

Es esmu atvēris kalkulatoru, un jūs varat sākt aprēķināt savus ienākumus jau šodien.

Atsauce:

Hipersaites pieteikšanās ir redzama.
Hipersaites pieteikšanās ir redzama.
Hipersaites pieteikšanās ir redzama.
Hipersaites pieteikšanās ir redzama.
Hipersaites pieteikšanās ir redzama.

Maz putas · Publicēts 2025-3-27 08:59:23

Vairāku pagriezienu sarunas kods:

Pieteikšanās ir redzama.

sekundeInformācija par ierosināto pieprasījumu ir šāda:

Pieteikšanās ir redzama.

Maz putas · Publicēts 2025-3-27 08:58:04

Par straumēšanas izvadi

Straumes režīmā tool_calls arī piemērojams, taču ir jāņem vērā daži papildu punkti, kā uzskaitīts tālāk:

Straumēšanas izvades laikā, tā kā finish_reason parādīsies pēdējā gabalā, ieteicams izmantot delta.tool_calls lauka klātbūtni vai neesamību, lai noteiktu, vai pašreizējā atbilde satur rīka izsaukumu;
Straumēšanas izvades laikā vispirms tiks izvadīts delta.content un pēc tam delta.tool_calls, tāpēc jums jāgaida, līdz delta.content izvade tiks pabeigta, pirms varat spriest un identificēt tool_calls;
Straumēšanas procesā sākotnējā datu blokā mēs norādīsim pašreizējā izsaukuma tool_calls tool_call.id un tool_call.function.name, un nākamajā datu blokā tiks izvadīti tikai tool_call.function.argumenti.
Straumēšanas izvades procesa laikā, ja Kimi modelis atgriež vairākas tool_calls uzreiz, mēs izmantosim papildu lauku ar nosaukumu indekss, lai identificētu pašreizējo tool_call indeksu, lai jūs varētu pareizi sašūt parametru tool_call.function.arguments.

Hipersaites pieteikšanās ir redzama.

Straumēšanas atbildes piemērs ir šāds:

data: {"choices":[{"delta":{"content":null,"tool_calls":[{"function":{"name":"itsvse-get_current_time","arguments":""},"index":0,"id":"call_deb0063d315441b18b50d8","type":"function"}],"role":"assistant"},"finish_reason":null,"index":0,"logprobs":null}],"object":"chat.completion.chunk","usage":null,"created":1743037194,"system_fingerprint":null,"model":"qwen-max","id":"chatcmpl-c4e2a989-10a3-9604-bdae-0b58b4f876a7"}

data: {"choices":[{"delta":{"content":null,"tool_calls":[{"function":{"arguments":"{}"},"index":0,"id":"","type":"function"}]},"finish_reason":null,"index":0,"logprobs":null}],"object":"chat.completion.chunk","usage":null,"created":1743037194,"system_fingerprint":null,"model":"qwen-max","id":"chatcmpl-c4e2a989-10a3-9604-bdae-0b58b4f876a7"}

data: {"choices":[{"delta":{"content":null,"tool_calls":[{"function":{},"index":0,"id":"","type":"function"}]},"finish_reason":null,"index":0,"logprobs":null}],"object":"chat.completion.chunk","usage":null,"created":1743037194,"system_fingerprint":null,"model":"qwen-max","id":"chatcmpl-c4e2a989-10a3-9604-bdae-0b58b4f876a7"}

data: {"choices":[{"delta":{"content":null,"tool_calls":[{"function":{},"index":0,"id":"","type":"function"}]},"finish_reason":null,"index":0,"logprobs":null}],"object":"chat.completion.chunk","usage":null,"created":1743037194,"system_fingerprint":null,"model":"qwen-max","id":"chatcmpl-c4e2a989-10a3-9604-bdae-0b58b4f876a7"}

data: {"choices":[{"delta":{"content":null,"tool_calls":[{"function":{},"index":0,"id":"","type":"function"},{"function":{"name":"itsvse-get_current_weather","arguments":""},"index":1,"id":"call_9790fb45e2b7419097d578","type":"function"}]},"finish_reason":null,"index":0,"logprobs":null}],"object":"chat.completion.chunk","usage":null,"created":1743037194,"system_fingerprint":null,"model":"qwen-max","id":"chatcmpl-c4e2a989-10a3-9604-bdae-0b58b4f876a7"}

data: {"choices":[{"delta":{"content":null,"tool_calls":[{"function":{"arguments":"{\"location\": \""},"index":1,"id":"","type":"function"}]},"finish_reason":null,"index":0,"logprobs":null}],"object":"chat.completion.chunk","usage":null,"created":1743037194,"system_fingerprint":null,"model":"qwen-max","id":"chatcmpl-c4e2a989-10a3-9604-bdae-0b58b4f876a7"}

data: {"choices":[{"delta":{"content":null,"tool_calls":[{"function":{"arguments":"上海市\"}"},"index":1,"id":"","type":"function"}]},"finish_reason":null,"index":0,"logprobs":null}],"object":"chat.completion.chunk","usage":null,"created":1743037194,"system_fingerprint":null,"model":"qwen-max","id":"chatcmpl-c4e2a989-10a3-9604-bdae-0b58b4f876a7"}

data: {"choices":[{"delta":{"content":null,"tool_calls":[{"function":{},"index":1,"id":"","type":"function"}]},"finish_reason":null,"index":0,"logprobs":null}],"object":"chat.completion.chunk","usage":null,"created":1743037194,"system_fingerprint":null,"model":"qwen-max","id":"chatcmpl-c4e2a989-10a3-9604-bdae-0b58b4f876a7"}

data: {"choices":[{"delta":{"content":null,"tool_calls":[{"function":{},"index":1,"id":"","type":"function"}]},"finish_reason":null,"index":0,"logprobs":null}],"object":"chat.completion.chunk","usage":null,"created":1743037194,"system_fingerprint":null,"model":"qwen-max","id":"chatcmpl-c4e2a989-10a3-9604-bdae-0b58b4f876a7"}

data: {"choices":[{"delta":{"content":null,"tool_calls":[{"function":{},"index":1,"id":"","type":"function"}]},"finish_reason":null,"index":0,"logprobs":null}],"object":"chat.completion.chunk","usage":null,"created":1743037194,"system_fingerprint":null,"model":"qwen-max","id":"chatcmpl-c4e2a989-10a3-9604-bdae-0b58b4f876a7"}

data: {"choices":[{"delta":{"tool_calls":[{"function":{"arguments":null},"index":1,"id":"","type":"function"},{"function":{"arguments":"{}","name":"itsvse-open_calculator"},"index":2,"id":"call_3ad6478075f04021ab9ea1","type":"function"}]},"index":0}],"object":"chat.completion.chunk","usage":null,"created":1743037194,"system_fingerprint":null,"model":"qwen-max","id":"chatcmpl-c4e2a989-10a3-9604-bdae-0b58b4f876a7"}

data: {"choices":[{"finish_reason":"tool_calls","delta":{},"index":0,"logprobs":null}],"object":"chat.completion.chunk","usage":null,"created":1743037194,"system_fingerprint":null,"model":"qwen-max","id":"chatcmpl-c4e2a989-10a3-9604-bdae-0b58b4f876a7"}

data: {"choices":[],"object":"chat.completion.chunk","usage":{"prompt_tokens":500,"completion_tokens":53,"total_tokens":553,"prompt_tokens_details":{"cached_tokens":0}},"created":1743037194,"system_fingerprint":null,"model":"qwen-max","id":"chatcmpl-c4e2a989-10a3-9604-bdae-0b58b4f876a7"}

data: [DONE]

Maz putas · Publicēts 2025-10-22 11:30:02

MCP (1) modeļa konteksta protokola ievada apmācība
https://www.itsvse.com/thread-11104-1-1.html

[Avots] [AI] (16) Semantiskais kodols ir balstīts uz Qwen, lai pārbaudītu funkciju izsaukšanu

Vērtējums

Saistītās ziņas

Skatītās sadaļas