మీ యూజర్లకు, మోడల్కు మధ్య ఉండేదంతా చాట్. respond ఫంక్షన్తో ఒక NuiChatSession ను సృష్టించండి, మిగతాది <nui-chat> చూసుకుంటుంది: సమాధానాన్ని Markdown గా స్ట్రీమ్ చేస్తుంది, చదివేవారు పైకి స్క్రోల్ చేసే వరకు పేజీలో కిందికి దాన్ని అనుసరిస్తుంది, అది వస్తున్నంతసేపు పంపే బటన్ను ఆపే బటన్గా మారుస్తుంది.
respond టెక్స్ట్, promise, async function* లేదా Observable ను రిటర్న్ చేస్తుంది, కాబట్టి ఏ API అయినా సరిపోతుంది. టెక్స్ట్తో పాటు, సమాధానంలో మోడల్ రీజనింగ్, దాని టూల్ కాల్లు (మీ టెంప్లేట్లు గీసేవి), అది వాడిన సోర్స్లు కూడా ఉండవచ్చు. చాలా మోడల్ API లు స్ట్రీమ్ చేసే server-sent events ను nuiEventStream చదువుతుంది.
ఏదీ పోదు: మళ్లీ అడిగిన సమాధానం లేదా ఎడిట్ చేసిన ప్రశ్న పాతదాని పక్కనే కొత్త వెర్షన్ అవుతుంది, సంభాషణ ప్రతి బ్రాంచ్నూ ఉంచుకుంటుంది. స్క్రీన్ రీడర్లు ప్రతి సమాధానాన్నీ పదం పదంగా కాకుండా, పూర్తయ్యాకే చదువుతాయి.
ఒక అసిస్టెంట్
సూచనలు సంభాషణను మొదలుపెడతాయి. సమాధానాలు Markdown గా స్ట్రీమ్ అవుతాయి; వాటిని ఆపండి, మళ్లీ అడగండి, రేట్ చేయండి, లేదా మీ ప్రశ్నను ఎడిట్ చేయండి. ఎంచుకున్న, పేస్ట్ చేసిన లేదా డ్రాప్ చేసిన ఫైల్లను attach తీసుకుంటుంది.
రీజనింగ్, టూల్లు, సోర్స్లు
డెల్టాలు మోడల్ రీజనింగ్ను, టూల్ కాల్లను, సోర్స్లను సమాధానానికి జోడిస్తాయి. nuiChatTool వాతావరణ టూల్ను కార్డ్గా గీస్తుంది; మిగతా టూల్లు వాటి ఇన్పుట్, అవుట్పుట్తో ముడుచుకుని ఉంటాయి.
సర్వర్ నుంచి స్ట్రీమింగ్
nuiEventStream OpenAI తరహా ఈవెంట్ స్ట్రీమ్ను చదువుతుంది, NuiChatError తన సందేశాన్ని చూపిస్తుంది. all() సంభాషణను వెర్షన్లతో సహా మొత్తం సేవ్ చేస్తుంది.