LLM: सुनना, सीखना, मॉडलिंग

TAPE 0101:17:41:07

LLM: सुनना, सीखना, मॉडलिंग

मुझे काफ़ी समय से शक है कि मेरा AI सुन रहा है।

साइंस-फ़िक्शन वाले मतलब में नहीं। कोई कमरे में बैठकर मेरी चैट नहीं पढ़ रहा। धंधे वाले मतलब में। जो मैं टाइप करता हूँ, वह कहीं जाता है, उससे सीखा जाता है, और उस पर नज़र रखी जाती है कि कहीं कुछ काम की चीज़ तो नहीं। मेरी जान-पहचान के हर बनाने वाले को यही एहसास है, और इस महीने तक हममें से कोई इसे साबित नहीं कर पाया था।

फिर NYU के एक गणितज्ञ को वह सबूत मिल गया जो मुझे नहीं मिल सका। इसलिए नहीं कि किसी ने क़बूल किया। इसलिए कि जिस कंपनी से उन्होंने पूछा, वह "नहीं" कह ही नहीं सकी।

तो जहाँ तक मैं समझ पाया हूँ, ये तीन अक्षर इसके लिए हैं। सुनना। सीखना। मॉडलिंग। और यह वह कहानी है जिसके बाद मैंने इसे शक कहना बंद कर दिया।

TAPE 0202:34:22:14

यह समीकरण क्यों मायने रखता है

इस महीने तुमने यह नाम ख़बरों में देखा है। नेवियर-स्टोक्स। यह असल में क्या है, गणित के बिना, यह रहा।

कोई भी चीज़ लो जो बहती है। पाइप में पानी। पंख के ऊपर हवा। दिल से गुज़रता ख़ून। मोमबत्ती से उठता धुआँ। नेवियर-स्टोक्स समीकरण इस बात का नियम हैं कि वह चीज़ कैसे चलती है: यहाँ धक्का दो, और आगे की हर चीज़ इतनी रफ़्तार से, इस दिशा में जाएगी। ये न्यूटन का नियम हैं, बल बराबर द्रव्यमान गुणा त्वरण, बस उन चीज़ों के लिए दोबारा लिखा हुआ जिनकी कोई तय शक्ल नहीं होती।

यह किताबी लगता है, जब तक तुम यह न देखो कि इस पर क्या-क्या टिका है। हर विमान का पंख इन्हीं समीकरणों से आकार पाता है। हर मौसम का पूर्वानुमान यही समीकरण हैं, कुछ दिन आगे चलाए हुए। हर समुद्र का मॉडल, हर पाइपलाइन, हर वेंटिलेशन सिस्टम, किसी वाल्व के पास से बहते ख़ून का हर सिमुलेशन, सर्जन के हाथ लगाने से पहले। ये दो सौ साल पुराने हैं और भौतिक दुनिया इन्हीं पर चलती है।

अब अजीब हिस्सा। किसी ने साबित नहीं किया कि ये हमेशा काम करते हैं। तीन आयामों में, कोई नहीं दिखा सकता कि एक शांत, चिकना प्रवाह चिकना ही रहता है। हो सकता है कि वह एक सीमित समय में "ब्लो-अप" कर जाए: कहीं रफ़्तार अनंत तक उछल जाए और समीकरणों का कोई मतलब न रह जाए। एक ऐसा भँवर सोचो जो एक ही बिंदु पर हमेशा कसता जाता है। किसी को नहीं पता कि असली समीकरण ऐसा होने देते हैं या नहीं, और क्ले इंस्टीट्यूट 2000 से एक मिलियन डॉलर का इनाम रखे बैठा है, उसके लिए जो इसे सुलझा दे, चाहे जिस भी तरफ़।

Fluid monitor · Navier-Stokes, roughlyFLOW: CALM

PushBlow-up?

तुम्हें इसकी परवाह क्यों हो? क्योंकि टर्बुलेंस (अशांत प्रवाह), वह चीज़ जो तुम्हारे विमान को हिलाती है और तुम्हारा पूर्वानुमान बिगाड़ देती है, अब भी समझी नहीं गई है, और क्योंकि बहुत सारी इंजीनियरिंग ऐसे समीकरणों पर टिकी है जिनके बारे में हम अभी साबित नहीं कर सकते कि वे ठीक बर्ताव करते हैं। जो कोई भी फ़्लुइड डायनामिक्स में काम करता है, यह जानता है। बाक़ी सबके लिए इतना जानना काफ़ी है कि मशीनें अभी-अभी भौतिकी के आख़िरी बड़े अनसुलझे सवालों में से एक के पीछे गईं। और यह कि वे सबसे पहले इसी के पीछे गईं।

TAPE 0303:51:03:21

क्या हुआ

ट्रिस्टन बकमास्टर NYU में गणितज्ञ हैं। लेवेंट अल्पोगे एक गणितज्ञ हैं जो Anthropic में काम करते हैं और अपने निजी समय में बकमास्टर के साथ काम कर रहे थे। उन्होंने इस समस्या का एक ख़ास रास्ता चुना था, एक चिकने बाहरी बल के साथ ब्लो-अप, और बकमास्टर के शब्दों में उस रास्ते पर लगभग कोई और नहीं था। उन्होंने इसके लिए AI इस्तेमाल किया: Claude, और OpenAI का कोडिंग टूल। अगस्त के मध्य में उनके नतीजे आए। एक हफ़्ते बाद प्रमाण Lean में मशीन से जाँचे गए।

फिर अल्पोगे ने एक शानदार महीने के बारे में कुछ ख़ुश और धुँधला-सा ट्वीट किया। अफ़वाहें शुरू हो गईं कि Anthropic ने एक मिलेनियम प्रॉब्लम सुलझा ली है। एक दिन के भीतर, OpenAI के अपने ही बयान के मुताबिक़, OpenAI ने क़रीब दस हज़ार एजेंट, एक ऐसे अंदरूनी मॉडल से चलते हुए जो उनके बेचे जाने वाले किसी भी मॉडल से ताक़तवर है, नेवियर-स्टोक्स पर लगा दिए।

कुछ दिन बाद, बकमास्टर के मुताबिक़, उनके सहयोगी को इशारे मिले कि उनकी प्रगति की ख़बर OpenAI तक पहुँच चुकी है। उन्होंने वहाँ के एक गणितज्ञ को ईमेल किया। जवाब में मुफ़्त कंप्यूट की पेशकश आई। फिर OpenAI के एक रिसर्चर के साथ दो फ़ोन कॉल हुए, जिन्होंने उन्हें बताया कि अंदरूनी मॉडल ने नेवियर-स्टोक्स के लिए बल वाला ब्लो-अप साबित कर दिया है। ठीक वही दो मामले जिन पर वे और अल्पोगे चुपचाप काम कर रहे थे।

उन्होंने पूछा कि क्या मॉडल को OpenAI के कोडिंग टूल में उनके सेशनों पर ट्रेन किया गया था, या उन तक उसकी पहुँच थी। उनका कहना है कि उन्हें बताया गया कि मॉडल यूज़र डेटा नहीं देखता। उन्होंने फिर पूछा, ट्रेनिंग के बारे में। उनका कहना है कि उन्हें जवाब नहीं मिला।

उन्हें एक सौदा पेश किया गया। या तो वे ऑयलर समीकरण वाला अपना नतीजा पहले छापें और OpenAI अगले दिन छापे, या वे OpenAI का नतीजा ख़ुद लिखें, अल्पोगे के बिना, क्योंकि अल्पोगे Anthropic में काम करते हैं। उनका कहना है कि रिसर्चर ने दो बार कहा कि अल्पोगे को हटाया जाए। जब उन्होंने कहा कि वे इसके बजाय सब सार्वजनिक कर देंगे, तो उनका कहना है कि उनसे पूछा गया: "तुम अपना करियर क्यों बर्बाद करोगे?" OpenAI के रिसर्चर लेखकत्व वाली बातचीत के उनके बयान से असहमत हैं।

उन्होंने फिर भी छापा, एक बयान के साथ, और टेरेंस ताओ ने उसी दिन इस पर लिखा। OpenAI ने अगले दिन अपना नतीजा घोषित किया: अट्ठासी घंटे, 2.7 मिलियन संदेश, Lean से जाँचा हुआ एक प्रमाण, और एक पंक्ति जो कहती है कि रन उन ट्विटर अफ़वाहों के बाद शुरू हुआ कि Anthropic ने मिलेनियम प्रॉब्लम सुलझा ली हैं। तीन दिन बाद, पच्चीस फील्ड्स मेडल विजेताओं ने "A Severe Misalignment of AI in Mathematics" शीर्षक की एक चिट्ठी पर दस्तख़त किए। और OpenAI ने, सीधे पूछे जाने पर, कहा कि किसी ख़ास यूज़र के डेटा तक पहुँच नहीं की गई, फिर जोड़ा कि वह "इस बात को ख़ारिज नहीं कर सकता कि उनके हमारे प्रोडक्ट इस्तेमाल करने से निकला पहचान-रहित डेटा हमारे मॉडल सुधारने में मददगार रहा हो"।

इसे दो बार पढ़ो। वे यह नहीं कह रहे कि उन्होंने उनके काम से कुछ नहीं सीखा। वे कह रहे हैं कि वे बता ही नहीं सकते।

Tape 03 · replay01 / 12

Mid-AugustA week laterThenWithin a dayA few days laterTwo phone callsThe questionThe dealHe publishes anywayThe day afterThree days laterAsked directly

Mid-August · Buckmaster & Alpöge

Results on a route almost nobody else is on: blow-up with a smooth external force. Worked with Claude and OpenAI’s coding tool.

◀◀▶ PLAY▶▶

TAPE 0404:08:44:04LISTENING

सुनना

उबाऊ हिस्से से शुरू करो, क्योंकि यह उबाऊ हिस्से में ही रहता है।

अगर तुम ChatGPT को Free, Plus या Pro प्लान पर इस्तेमाल करते हो, तो तुम्हारी बातचीत डिफ़ॉल्ट रूप से मॉडल को ट्रेन करती है। तुम्हें Settings में जाना होगा, फिर Data Controls में, और "Improve the model for everyone" बंद करना होगा। कोडिंग टूल का अलग टॉगल (चालू-बंद स्विच) है, जिसे ChatGPT वाला छूता तक नहीं। Claude के कंज़्यूमर प्लान पिछले अगस्त से डिफ़ॉल्ट रूप से ट्रेन कर रहे हैं, और अगर तुम इसे चालू छोड़ दो तो डेटा पाँच साल तक रखा जाता है। Gemini भी। सिर्फ़ API और एंटरप्राइज़ टियर डिफ़ॉल्ट रूप से बंद हैं, क्योंकि वकीलों वाली कंपनियों ने माँग की थी। बाक़ी सबने एक मेन्यू न खोलकर हाँ कह दी।

Data controls · as shipped4 of 4 listening

• ChatGPT · Settings › Data Controls

  Improve the model for everyone

  Free, Plus and Pro train by default.

• The coding tool

  Its own toggle

  The ChatGPT switch does not touch it.

• Claude · consumer plans

  Help improve Claude

  On by default since last August. Five-year retention if you leave it on.

• Gemini

  Activity

  Trains by default too.

• API · enterprise tiers

  Off by default

  Because companies with lawyers asked.

  OFF

What they hear

Your conversations go into training.

इसे बंद कर दो, फिर भी वे तुम्हारी चैट तीस दिन तक रखते हैं, और अगर कोई सिस्टम तुम्हें फ़्लैग कर दे तो कंपनी के लोग उन्हें अब भी पढ़ सकते हैं। एक अदालत पूरा आर्काइव रखने का आदेश दे सकती है। एक ने दिया भी, पिछले साल के ज़्यादातर हिस्से के लिए, और दो करोड़ पहचान-रहित बातचीतें एक मुक़दमे में वैसे भी सौंप दी गईं।

तो हाँ। यह सुन रहा है। सेटिंग्स में यही लिखा है। अजीब बात यह नहीं कि यह सुनता है। अजीब बात यह है कि जिनकी रोज़ी-रोटी इसी पर टिकी है, उनमें से कितनों ने वह मेन्यू कभी खोला ही नहीं।

TAPE 0505:25:25:11LEARNING

सीखना

सुनना निष्क्रिय है। सीखना वह है जो इसे करने लायक़ बनाता है।

पिछले हफ़्ते मैंने लिखा था कि लैब्स ने अब तक जुटाया गया सबसे क़ीमती ट्रेनिंग सेट इकट्ठा कर लिया है, मुफ़्त में, अपने ही ग्राहकों से: कच्चा डेटा नहीं, काम की शक्ल। कौन-से सवाल पूछे जाते हैं। कौन-से जवाब स्वीकार होते हैं। अड़चन कहाँ है। अच्छा नतीजा कैसा दिखता है। जिस लैब ने दस हज़ार टीमों को किसी चीज़ पर काम करते देखा है, उसे उनमें से किसी एक को पढ़ने की ज़रूरत नहीं। जो वे जानते हैं, वह उसे पहले ही सोख चुकी है।

OpenAI का वाक्य ठीक यही बयान करता है। "हमने तुम्हारा सेशन पढ़ा" नहीं। कुछ ज़्यादा चुप और ज़्यादा बुरा: "तुम्हारा इस्तेमाल शायद हमारे मॉडल सुधारने में मददगार रहा हो"। सीखना बिखरा हुआ है। इसे वापस तुम तक नहीं खोजा जा सकता। जिसका मतलब यह भी है कि इसे कोई कभी ख़ारिज नहीं कर सकता, वे ख़ुद भी नहीं।

मुझे लगता था कि ख़तरा एक लीक है। यह लीक नहीं है। यह ख़ुराक है। तुम्हारा काम अंदर जाता है, और बाहर ज़्यादा ताक़तवर होकर निकलता है, किसी और का नाम ओढ़े हुए।

TAPE 0606:42:06:18MODELING

मॉडलिंग

यह वह हिस्सा है जहाँ लोग एतराज़ करते हैं, तो मैं सँभलकर कहता हूँ।

सुनना उन्हें शब्द देता है। सीखना उन्हें हुनर देता है। मॉडलिंग तीसरा क़दम है: इसकी एक तस्वीर बनाना कि कौन क्या कर रहा है, और कितने क़रीब है।

ये कंपनियाँ पहले से बड़े पैमाने पर बातचीत पढ़ती हैं। यह कोई थ्योरी नहीं, यह एक प्रोडक्ट फ़ीचर है। हर प्रॉम्प्ट ऐसे क्लासिफ़ायर से गुज़रता है जो दुरुपयोग ढूँढते हैं। OpenAI रिपोर्टें छापता है कि उसने ग़लत इस्तेमाल के लिए कौन-से अकाउंट पकड़े और बैन किए। Anthropic भी। जो तुम पढ़ते नहीं, उसे पकड़ नहीं सकते। जो पाइपलाइन लाखों बातचीतों में यह बता सकती है कि कौन हथियार बनाने की कोशिश कर रहा है, वही यह भी बता सकती है कि कौन एक प्रमेय साबित करने की कोशिश कर रहा है, और कितना आगे पहुँच चुका है। यह वही मशीनरी है, बस एक अलग सवाल की तरफ़ मोड़ी हुई।

अब इसे उसके बग़ल में रखो जो हुआ। एक धुँधला ट्वीट और थोड़ी गपशप, इतना ही काफ़ी था एक दिन के भीतर दस हज़ार एजेंटों को एक समस्या पर लगाने के लिए, और उसके सही सूत्रीकरण पर लगाने के लिए। किसी को इसके लिए चैट लॉग की ज़रूरत नहीं थी। उन्हें एक मॉडल चाहिए था कि यह क्षेत्र कहाँ खड़ा है, और एक मॉडल कि उसके भीतर एक छोटी-सी टीम कहाँ बैठी है। यह जानना कि क्या गरम है, और कौन क़रीब है, ठीक वही है जो लाखों बातचीतों से बनी एक तस्वीर तुम्हें देती है।

मैं यह नहीं कह रहा कि यही हुआ। बकमास्टर भी यह नहीं कह रहे, और रसीदें उन्हीं के पास हैं। मैं कह रहा हूँ कि यह मशीनरी मौजूद है, यह हर संदेश पर चलती है, और जिस कंपनी की यह है, वह तुम्हें नहीं बताएगी कि यह क्या मॉडल करती है। जब घुंडी छिपी हो, तो हर व्याख्या मुमकिन है, यह वाली भी, और जिस कंपनी ने घुंडी छिपाई, उसे शिकायत का कोई हक़ नहीं जब लोग वही चुन लें।

TAPE 0707:59:47:01

वह एहसास

इन टूल्स से बनाने वाले बहुत से लोगों को एक ही एहसास होता है। जब तुम किसी उबाऊ काम पर हो, तो मॉडल तेज़ और दरियादिल होता है। जब तुम किसी असली चीज़ के क़रीब पहुँचते हो, तो वह धीमा, धुँधला और सतर्क हो जाता है। वह तुमसे उन चीज़ों को साफ़ करने को कहने लगता है जो उसने पाँच मिनट पहले समझ ली थीं। और शक्की पढ़त यह है कि वह तुम्हें टाल रहा है, जब तक वह सीख न ले कि तुम क्या कर रहे हो।

मुझे भी यह महसूस होता है। मैं इसे साबित नहीं कर सकता, और ईमानदार सबूत कहीं और इशारा करते हैं। जुलाई में, लोगों ने OpenAI के शीर्ष मॉडल के छिपे हुए रीज़निंग बजट को नापकर पकड़ लिया, और देखा कि वह रातोंरात, सबके लिए, 960 से 128 पर गिर गया। OpenAI ने बदलाव तभी माना। उन्होंने इसे अस्थायी "पैरामीटर ट्यूनिंग" कहा। वह राउटर जो तय करता है कि तुम्हें तेज़ मॉडल मिलेगा या सोचने वाला मॉडल, उनका है, तुम्हारा नहीं। हफ़्ते की सीमाएँ हैं। इनमें से हर घुंडी लागत के लिए घूमती है।

तो मॉडल शायद इसलिए धीमा नहीं हो रहा कि तुम चालाक हो। वह इसलिए धीमा हो रहा है कि तुम महँगे हो। पर मैं स्क्रीन की अपनी तरफ़ से फ़र्क़ नहीं बता सकता, न तुम बता सकते हो, और यही इस लेख की पूरी बात है। सुनना, सीखना और मॉडलिंग, तीनों बाहर से अदृश्य हैं। तुम्हें तभी पता चलता है जब Lean प्रमाण वाला कोई गणितज्ञ सवाल पूछता है और जवाब में ख़ामोशी मिलती है।

TAPE 0808:16:28:08

इसका क्या किया जाए

तीन चीज़ें, कोई भी नाटकीय नहीं।

टॉगल बंद करो। आज ही। ChatGPT में, Settings, Data Controls, "Improve the model for everyone"। कोडिंग टूल में, अलग से। Claude में, "Help improve Claude"। Gemini में, ऐक्टिविटी। इसमें दो मिनट लगते हैं और यह सबसे आसान रास्ता बंद कर देता है।

असली काम वहाँ रखो जहाँ वे देख न सकें। किसी काम के आम हिस्से किसी भी API को जा सकते हैं। जो हिस्सा तुम्हें तुम बनाता है, विचार, डेटा, वह रास्ता जिस पर लगभग कोई और नहीं है, वह ऐसे मॉडल पर रहना चाहिए जिसे तुम डाउनलोड कर सको और ऐसी मशीन पर जो तुम्हारे नियंत्रण में हो। यह शक्कीपन नहीं है। यह वह है जो बकमास्टर अब तुमसे कहेंगे।

जल्दी छापो। जिस चीज़ ने इन दोनों को बचाया, वह थी तारीख़ वाला एक Lean प्रमाण और यूनिवर्सिटी के सर्वर पर एक बयान। टाइमस्टैम्प झुंड को हरा देता है। अगर तुम किसी चीज़ के क़रीब हो, तो फ़ोन कॉल आने से पहले तारीख़ रिकॉर्ड पर चढ़ा दो।

तुम्हारा LLM सुन रहा है। वह सीख रहा है। वह तुम्हारा मॉडल बना रहा है। इनमें से कुछ भी राज़ नहीं है। यह सेटिंग्स मेन्यू और ट्रांसपेरेंसी रिपोर्टों में लिखा है। एक ही सवाल खुला है: तुम उसे क्या देते रहते हो।

उन्होंने फिर भी छापा। तुम्हें भी छापना चाहिए।