काम सौंपें, कुंजी अपने पास रखें

कई चरणों में काम करने वाला एजेंट कभी-कभी गलती करता है। कार्य सीमित रखें, आउटपुट देखें, वापसी रास्ते रखें — एजेंट पर असली नियंत्रण कैसे काम करता है।

काम करने का अर्थ है — गलती होना

चैटबॉट की सबसे बड़ी गलती एक खराब वाक्य है; एजेंट की गलती बीस में से बारहवें चरण पर किया गया बुरा काम है। एजेंट को उपयोगी बनाने वाली वही बात — वे केवल बातें नहीं करते, काम करते हैं — उनकी गलतियों को वास्तविक बना देती है। नियंत्रण एजेंट पर सजावट नहीं है; यही असली डिज़ाइन की समस्या है।

सीमा ही पहली सुरक्षा परत है

सबसे बड़ा लीवर कार्य की परिभाषा ही है। जाँचने योग्य अंत वाले संकीर्ण लक्ष्य कम विफल होते हैं और विफलता छोटी रहती है: 'इन दस नोट्स को एक संक्षिप्त ब्रीफ में ठीक से बदलें' — इससे ज़्यादा गड़बड़ हो ही नहीं सकती। अस्पष्ट, व्यापक निर्देश एजेंट को अपनी मर्ज़ी से कुछ करने की जगह देते हैं — और गलतियाँ वहीं पलती हैं।

समीक्षा का चरण वैकल्पिक नहीं है

एजेंट के आउटपुट को जूनियर सहकर्मी के काम की तरह देखें: असर पड़ने से पहले उसे पढ़ें। संक्षिप्त ब्रीफ को झटपट देख लिया जाता है, तैयार संदेश को संपादित किया जाता है, और प्रस्तावित व्यवस्था को अपनाने से पहले स्वीकृत किया जाता है। यह आदत शानदार नहीं है, पर यही पूरी सुरक्षा व्यवस्था है — जब तक किसी इंसान ने उसे देखा न हो, एजेंट का कोई भी आउटपुट अंतिम नहीं है।

वापसी के रास्ते और स्टॉप बटन

नियंत्रण का मतलब उलटने की क्षमता भी है। जहाँ तक हो सके, मूल सामग्री की जगह उसकी कॉपी पर काम करें, एजेंट जिन स्रोतों पर काम करे उन्हें सहेज कर रखें, और ऐसे वर्कफ़्लो चुनें जहाँ बुरा रन डेटा को नुकसान पहुँचाने के बजाय सिर्फ़ एक डिलीटेड ड्राफ़्ट हो। जो एजेंट आपके 'रुको' कहने पर रुक जाए — और जिसका काम साफ़ी से हटाया जा सके — उस पर अगली बार ज़्यादा भरोसा किया जा सकता है।

लोकल होने से हर परत और मज़बूत होती है

LocalClaw काम को उसी डिवाइस पर, ऑफ़लाइन और आपके नियंत्रण में करता है, जिससे ऊपर की हर परत मज़बूत होती है। कोई सेवा बीच के चरणों पर नज़र नहीं रखती, कोई रिमोट पॉलिसी तय नहीं करती कि एजेंट क्या कर सकता है, और रन वहीं होता है जहाँ आप उसे देख सकते हैं। निगरानी तब सबसे अच्छी काम करती है जब काम करने वाला उसी कमरे में हो — ऑन-डिवाइस होना यही है।