Chat ɗin shi ne duk abin da ke tsakanin masu amfaninku da model. Ku ƙirƙiri NuiChatSession da function na respond, sai <nui-chat> ya yi sauran: yana nuna amsar a matsayin Markdown yayin da take zuwa, yana bin ta zuwa ƙasan shafi har sai mai karatu ya gungura sama, kuma yana mayar da maɓallin aikawa ya zama maɓallin tsayawa har amsar ta iso.

respond yana dawo da rubutu, promise, async function* ko Observable, don haka kowane API yana dacewa. Bayan rubutu, amsa na iya ɗauke da tunanin model, kiran kayan aikinsa (da templates ɗinku ke zanawa) da majiyoyin da ya yi amfani da su. nuiEventStream yana karanta server-sent events da yawancin APIs na model ke aikowa.

Babu abin da ke ɓacewa: amsar da aka sake nema ko tambayar da aka gyara tana zama sabuwar siga kusa da tsohuwar, kuma tattaunawar tana riƙe kowane reshe. Manhajojin karanta allo suna karanta kowace amsa idan ta kammala, ba kalma-kalma ba.

Mataimaki

Shawarwari ne ke fara tattaunawa. Amsoshi suna zuwa kaɗan-kaɗan a matsayin Markdown; ku tsayar da su, ku sake nema, ku ba su ƙima, ko ku gyara tambayarku. attach yana karɓar fayiloli ta zaɓi, liƙawa ko ja da sauke.

Tunani, kayan aiki da majiyoyi

Deltas suna ƙara tunanin model, kiran kayan aiki da majiyoyi a cikin amsar. nuiChatTool yana zana kayan aikin hasashen yanayi a matsayin kati; sauran kayan aiki suna naɗewa tare da input da output ɗinsu.

Streaming daga server

nuiEventStream yana karanta event stream irin na OpenAI, kuma NuiChatError yana nuna saƙonsa. all() yana adana tattaunawar tare da dukan sigoginta.