वॉयस मॉडल को वॉयस मॉडल ही रहने दें
पहले हम अपने कन्वर्सेशन मॉडल को टूल्स का मेन्यू देकर उसी से फ़ैसले, जानकारी निकालना और सेव करवाते थे। अब कोड फ़ैसला करता है और काम करता है, और मॉडल बस बोलता है। हमने यह बदलाव क्यों किया।
एक कॉलर ने कहा "टमाटर कर दो, कितना कर रही हो?"। Aika ने दुकान में यह पूरा वाक्य ही सर्च कर दिया। टमाटर नहीं आए। केचप आया।
उस पूरी कड़ी में सामान्य अर्थ में कुछ भी टूटा नहीं था। स्पीच रिकग्निशन ने लगभग सही शब्द पकड़े। कन्वर्सेशन मॉडल ने सर्च टूल को बुलाया, जैसा हमने डिज़ाइन किया था। बस उसने कॉलर का पूरा वाक्य सर्च शब्द के रूप में आगे भेज दिया, क्योंकि वाक्य का कौन-सा हिस्सा सामान है, यह तय करना एक समझ का काम है, और वह समझ हमने ऐसे मॉडल के भीतर छोड़ दी थी जिसका मुख्य काम बात करना था।
यह पोस्ट इस बारे में है कि हमने ऐसा करना कैसे बंद किया, और क्यों हमें लगता है कि वॉयस प्रोडक्ट के लिए यह सही फ़ैसला था।
पहले हमने इसे कैसे बनाया था
काम करने वाला असिस्टेंट बनाने का आम तरीक़ा यह है कि एक बड़े लैंग्वेज मॉडल को टूल्स की सूची दी जाए, हर टूल का विवरण लिखा जाए, और उसी पर छोड़ दिया जाए कि क्या, कब और किन आर्गुमेंट्स के साथ बुलाना है। कुछ चालू करने के लिए यह अच्छा तरीक़ा है। एक फ़ंक्शन और उसके बारे में एक पैराग्राफ़ लिखकर आप नई क्षमता जोड़ देते हैं।
लाइव फ़ोन कॉल्स पर इसकी क़ीमतें बढ़ती गईं।
मॉडल हमारा एक्सट्रैक्टर बन गया। रिमाइंडर किसके लिए है, किस दिन और किस समय, यह सब मॉडल कच्चे स्पीच-टू-टेक्स्ट से टूल आर्गुमेंट्स लिखकर भरता था, इसलिए शेड्यूल उतना ही अच्छा होता था जितना किसी बिगड़े वाक्य पर मॉडल का अंदाज़ा। "कल दस बजे" आसान है। "हर एकादशी" या "पाँच मिनट बाद" पर अंदाज़े ग़लत होने लगते हैं।
मॉडल ऐसे फ़ैसले भी लेता था जो उसके होने ही नहीं चाहिए। रिमाइंडर सेव करना है या नहीं, कॉलर ने हामी भरी या नहीं, बीच में सेटअप छोड़ना है या नहीं। टेस्टिंग में हमने इसे "हो गया क्या?" पर सेव करते देखा, और एक असली कॉल पर एक ही अनुरोध के लिए इसने ग़लत तरह की चीज़ दो बार सेव कर दी। कन्वर्सेशन मॉडल ख़ुद पर पक्का भरोसा जताने में बहुत अच्छा होता है, और जो चीज़ तय करती है कि कुछ पक्का करना है या नहीं, उसके लिए यही सबसे ग़लत गुण है।
और मेन्यू भारी हो गया। प्रोडक्शन की एक आम बारी में टूल्स के विवरण प्रॉम्प्ट का बड़ा हिस्सा घेरते थे। मॉडल हर बारी पर कुछ बोलने से पहले एक मैनुअल पढ़ रहा था, और कॉलर उसकी क़ीमत देरी में चुका रहा था।
अब यह कैसे काम करता है
हमने हर बारी को अलग-अलग कामों में बाँटा और हर काम उसे दिया जो उसमें अच्छा है।
एक एक्सट्रैक्टर कॉलर की जानकारी पढ़ता है। हर बारी के बाद, एक मॉडल वह निकालता है जो मौजूदा काम में काम आ सकता है, कॉलर के अपने शब्दों में: सामान और मात्रा, जगह, समय। "दूध, अंडे और ब्रेड चाहिए" तीन सामान बनते हैं, और "कर दो" या "चाहिए" जैसे शब्द उनसे बाहर रहते हैं।
हर जानकारी का मालिक कोड उसे सुलझाता है। जगह को उन जगहों से मिलाया जाता है जो कॉलर पहले इस्तेमाल कर चुका है, सामान को सामान की तरह सर्च किया जाता है, और समय असली समय बनता है।
एक डिसीज़न मॉडल छोटे सवालों के जवाब देता है। क्या कॉलर ने अभी पढ़कर सुनाई गई बात पर हामी भरी? क्या वे कुछ बदल रहे हैं, या इसे छोड़ रहे हैं? हम लाइव कॉल्स पर सहमति और पेमेंट के लिए पहले से ऐसा डिसीज़न मॉडल इस्तेमाल कर रहे थे, जैसा हमने सितंबर में लिखा था। अब यह हर काम के भीतर के फ़ैसले भी संभालता है।
कोड काम करता है, और मॉडल बोलता है। कुछ भी तब तक सेव नहीं होता जब तक कॉलर ने अभी-अभी पूरा रिकॉर्ड न सुना हो और डिसीज़न मॉडल को भरोसा न हो कि उन्होंने उसे मान लिया। कन्वर्सेशन मॉडल को बताया जाता है कि क्या हुआ और क्या अभी बाक़ी है, और वह यही अपने शब्दों में कहता है।
कॉलर्स को क्या फ़र्क़ दिखता है
ज़्यादातर यह कि Aika ने उनकी बात समझी। "दूध चाहिए, घर पे" उनके सेव किए घर पर पहुँचाने के लिए दूध सर्च करता है, और सिर्फ़ "दूध चाहिए" पूछता है कि कहाँ भेजना है। "सॉस नहीं, असली टमाटर" जैसा सुधार फिर से वही सर्च करता है जो उनका मतलब था।
कम दिखने वाला बदलाव यह है कि जिन कामों को हमने इस तरीक़े पर ला दिया है, उनमें Aika अब मनमर्ज़ी से न कुछ सेव कर सकता है, न सेव छोड़ सकता है, न कोई ब्योरा भर सकता है। इनमें से किसी के लिए मॉडल के पास कोई टूल नहीं है। नियम पूरा होने पर कोड सेव करता है।
हमारे लिए क्या बदला
हर फ़ैसला अब उसके नतीजे के साथ लॉग होता है, कॉलर के शब्दों के बिना, ताकि हम ग़लत सेव या छूटे सेव गिन सकें। जब फ़ैसला किसी लंबे बने जवाब के भीतर एक टूल कॉल में रहता था, तो फ़ैसला और शब्द आपस में उलझे रहते थे। अब हम उन्हें अलग-अलग टेस्ट कर सकते हैं।
प्रॉम्प्ट भी काफ़ी हल्का हो गया, और जिस मॉडल को टूल्स के विवरणों की लंबी सूची नहीं पढ़नी, वह जल्दी बोलना शुरू करता है।
हमें सबसे दिलचस्प यह लगता है कि इससे कन्वर्सेशन मॉडल का काम कैसे बदलता है। उसे अब एक साथ अच्छा प्लानर, अच्छा एक्सट्रैक्टर और सावधान फ़ैसला लेने वाला नहीं बनना है। उसे एक अच्छा बोलने वाला बनना है जो दी गई जानकारी पर टिका रहे। यह कहीं छोटा काम है, और ऐसा काम जिसे शायद आगे चलकर हमारे अपने हार्डवेयर पर चलने वाले छोटे, सस्ते मॉडल कर सकें। हमने हाल ही में ठीक यही टेस्ट किया, और जल्द ही लिखेंगे कि नतीजा क्या रहा।
इसकी क़ीमत क्या रही
शुरुआत में डिज़ाइन का काम बहुत ज़्यादा है। हर काम के लिए उसकी जानकारियों की सूची चाहिए, और उसके फ़ैसले ऐसे असली सवालों के रूप में जिन्हें हम जाँच सकें। टूल कॉलिंग से हम यह छोड़कर लाइव कॉल्स पर पता लगा सकते थे। अब हमें लगता है कि पता लगाने का वह महंगा तरीक़ा था।
एक किनारा भी है। जब एक्सट्रैक्टर कोई बारी चूक जाए, या कॉलर कुछ ऐसा करे जिसकी किसी काम को उम्मीद नहीं थी, तब भी बातचीत को किसी समझदार दिशा में जाना होता है। हम उस रास्ते को जान-बूझकर संकरा रखते हैं: मॉडल बात कर सकता है, पूछ सकता है और समझा सकता है, और काम कोड के पास रहते हैं।
संदर्भ और आगे पढ़ने के लिए
- T. Schick et al., "Toolformer: Language models can teach themselves to use tools," 2023.
- S. Yao et al., "ReAct: Synergizing reasoning and acting in language models," ICLR, 2023.
- Anthropic, "Building effective agents," 2024.
ऐसे उद्धृत करें
Aika Labs. 'वॉयस मॉडल को वॉयस मॉडल ही रहने दें.' aikalabs.ai/hi/blog/let-the-voice-model-be-a-voice-model, 2026-11-16.