अधिकांश उत्पाद कहते हैं कि वे «आपको याद रखते हैं»। उनका आशय प्रायः इतना ही होता है कि बातचीत की मौजूदा खिड़की अभी ओझल नहीं हुई। टैब बंद करते ही मॉडल को पता ही नहीं रहता कि आप कौन हैं। हर बार आप अपनी तकनीकी परत, अपनी पसंद और अपनी सीमाएँ शून्य से फिर समझाते हैं।
ToRun की दीर्घकालिक स्मृति सर्वथा भिन्न व्यवस्था है। यह लेख बताता है कि वह क्या सँभालती है, हर बारी में कैसे जुड़ती है, और आप उससे क्या कर सकते हैं।
क्या सँभाला जाता है और क्यों
ToRun में स्मृति आपकी बातचीतों से निकाले गए टिकाऊ तथ्यों का समूह है। इन्हें संरचित टिप्पणियों की तरह सोचिए—प्रतिलेख का ढेर नहीं, बल्कि अलग-अलग अवलोकन: आप संक्षिप्त उत्तर पसंद करते हैं, आपकी परियोजना MongoDB उपयोग करती है, आप TypeScript में काम करते हैं, आपकी पृष्ठभूमि यंत्र-अधिगम की है, आपको कोड के उदाहरण एक विशेष ढंग से चाहिए।
ये तथ्य भाषा से स्वतंत्र हैं। यदि आप तीन सत्र तुर्की में और दस अंग्रेज़ी में लिखें, तब भी स्मृति-व्यवस्था भाषाओं के टापुओं में नहीं बँटती। यूनिकोड के प्रति सजग सामान्यीकरण (NFKD विघटन, स्वरचिह्नों का हटाव, अक्षर-आकार का समतलन) यह सुनिश्चित करता है कि एक भाषा में दर्ज तथ्य दूसरी भाषा में पूछने पर उभर आए। व्यवहार में यह मायने रखता है: 29 भाषाओं वाला मंच ऐसी स्मृति का बोझ नहीं उठा सकता जो केवल अंग्रेज़ी बोलने वालों के लिए ठीक चले।
नए तथ्य स्वतः जुड़ सकते हैं, जब मॉडल कोई टिकाऊ सूचना पहचाने, या आप उन्हें स्पष्ट रूप से बता सकते हैं («याद रखो कि मैं Azure पर तैनात करता हूँ»)। इनमें से कोई भी राह आपसे छिपाई नहीं जाती।
पुकार के क्षण स्मृति प्रसंग कैसे बनती है
ToRun में बातचीत की हर बारी, संकेत के मॉडल तक पहुँचने से पहले, प्रसंग की तीन परतें जोड़ती है:
- तंत्र परत—उत्पाद स्तर के निर्देश, सहायिका की भूमिका और शैली, ज्ञान-कोश के सक्रिय निर्देश।
- सारांश परत—उस बिंदु तक की बातचीत का सिकोड़ा हुआ रूप, अपने आप सँभाला जाता है ताकि लंबे सूत्र मॉडल की प्रसंग-खिड़की न चुका दें।
- हाल की परत—पिछली N बारियाँ ज्यों की त्यों, आपने अभी जो कहा उस पर अधिक भार के साथ।
दीर्घकालिक स्मृति तंत्र परत में बैठती है। पुनर्प्राप्ति का चरण मौजूदा संदेश से मिले प्रासंगिकता के संकेत के सहारे आपके संचित तथ्यों पर चलता है: यदि आप डेटाबेस की अनुक्रमणिका पूछें तो MongoDB की पसंद वाले तथ्य ऊपर आ जाते हैं; यदि आप अभिकल्प की ओर मुड़ें तो वे पीछे हट जाते हैं। मॉडल केवल वही देखता है जो इस बारी से जुड़ा है, आपके बनाए हर तथ्य का सपाट ढेर नहीं। इस तरह प्रसंग-खिड़की का उपयोग किफ़ायती रहता है और «स्मृति के फूलने» से बचाव होता है, जहाँ असंबद्ध निजी ब्योरे संकेत को पतला कर देते हैं।
प्रसंग की सीमा स्तर पर निर्भर है—निःशुल्क स्तर को कुल 16 हज़ार खंड मिलते हैं, और सदस्यता की सीढ़ियाँ चढ़ते हुए Enterprise में 10 लाख खंड तक। जब जुड़ा हुआ प्रसंग (स्मृति + सारांश + हाल की बारियाँ) मॉडल की खिड़की से बड़ा हो जाए, तो ToRun पहले सारांश परत काटता है, और आपके ताज़ा संदेश या सबसे प्रासंगिक स्मृति-तथ्य कभी चुपचाप नहीं फेंकता।
तथ्य आपके हैं, नियंत्रण आपका है
स्मृति उसी की है जो उसे बरतता है। ToRun ने आपके बारे में जो कुछ संचित किया है, आप वह सब सूचीबद्ध कर सकते हैं और अलग-अलग प्रविष्टियाँ या पूरा कुछ मिटा सकते हैं। ऐसी कोई «गुप्त» स्मृति नहीं है जो आपकी जानकारी के बिना आपकी बातचीत को प्रभावित करे। तथ्यों का भंडार देखा जा सकता है और माँगने पर भुलाया जा सकता है।
यह चुनाव एक व्यापक सिद्धांत से निकलता है: ToRun को अपनी वास्तविक स्थिति दिखानी चाहिए, छिपानी नहीं। पारदर्शी स्मृति का अर्थ है कि उस पर भरोसा किया जा सकता है। यदि मॉडल किसी ग़लत तथ्य के अनुसार चले—मान लीजिए उसने कभी दर्ज किया था कि आपको विस्तृत व्याख्याएँ भाती हैं जबकि अब आप संक्षिप्त चाहते हैं—तो आप उसे भूलने को कहते हैं, और अगली पुकार उस तथ्य को नहीं देखेगी।
मिटाना स्थायी और तत्काल है। ऐसी कोई छूट-अवधि नहीं जिसमें पुराना तथ्य फिर उभर आए।
ज्ञान-कोश स्मृति नहीं हैं
स्मृति आपके बारे में तथ्य सँभालती है। ज्ञान-कोश उत्तरों को आपके दस्तावेज़ों में जमाते हैं।
जब आप प्रलेखन, संहिता या विषय-सामग्री ज्ञान-कोश में चढ़ाते हैं, तो ToRun पुनर्प्राप्ति से पुष्ट रचना (RAG) के सहारे प्रश्न के क्षण संबंधित अंश ऊपर लाता है। लाया गया पाठ बातचीत के प्रसंग के साथ जोड़ दिया जाता है, और मॉडल बताता है कि उसने क्या इस्तेमाल किया। यह वही सही औज़ार है जब आपके प्रश्न के लिए मूल सामग्री पढ़नी हो—कोई API का विनिर्देश, कोई विधिक दस्तावेज़, आपकी आंतरिक पुस्तिका—न कि कोई निजी पसंद याद करनी हो।
दोनों व्यवस्थाएँ मिल जाती हैं: एक ही बारी में आपके निजी स्मृति-तथ्यों से भी और ज्ञान-कोश की पुनर्प्राप्ति से भी लिया जा सकता है। वे प्रसंग-संयोजन की भिन्न परतों को पोसती हैं और भिन्न प्रयोजन साधती हैं। स्मृति उत्तर देती है «आप कौन हैं और किस तरह काम करना पसंद करते हैं»; ज्ञान-कोश उत्तर देता है «यह दस्तावेज़ क्या कहता है»।
दोनों को साथ बरतना ही ToRun को दिखावे के लिए नहीं, असली काम के लिए उपयोगी बनाता है। आपकी पसंद स्मृति में रहती है ताकि आपको दोहराना न पड़े; आपकी मूल सामग्री ज्ञान-कोश में रहती है ताकि उत्तर प्रमाण पर टिकें, मॉडल के प्रशिक्षण-आँकड़ों पर नहीं।