निक कैमराटा: “पॉलीसिमैंटिसिटी — एक न्यूरॉन में कई अवधारणाएँ — ज़्यादातर ग़लत पढ़ाई थी: न्यूरल नेटवर्क “पहले से साफ़” हैं, और एजेंट उन्हें न्यूरॉन-दर-न्यूरॉन समझ सकते हैं; Qwen3-32B की शुरुआती जाँच में लगभग 90% न्यूरॉन का एक ही मुख्य काम है”

AI द्वारा अनुवादित, संपादकों द्वारा जाँचा गया

मूल पाठ

“I think I have good news about the nature of neural networks. After many months studying neurons and circuits in image and language models, I've come to believe a network's own mechanisms are its legible building blocks, and that the outlook for mechanistic interpretability may be far better than I'd feared. The canonical evidence of polysemanticity and superposition that convinced much of the field, including me, that networks pack concepts arbitrarily was misread. What looked like arbitrary packing was mostly a motif I'll call recursive generalization, which is much less concerning. This means we can study networks directly, instead of first untangling them. Neural networks are already clean.”

— निक कैमराटा, Goodfire, 15.10.2026 ↗

अनुवाद

“मुझे लगता है कि मेरे पास न्यूरल नेटवर्क की प्रकृति के बारे में अच्छी ख़बर है। इमेज और भाषा मॉडलों में न्यूरॉन और सर्किट का कई महीने अध्ययन करने के बाद मुझे विश्वास हो गया है कि नेटवर्क के अपने तंत्र ही उसके समझ में आने वाले बुनियादी हिस्से हैं, और मैकेनिस्टिक इंटरप्रिटेबिलिटी की संभावनाएँ शायद उससे कहीं बेहतर हैं जितना मुझे डर था। पॉलीसिमैंटिसिटी और सुपरपोज़िशन के जिन मानक सबूतों ने मेरे समेत इस क्षेत्र के बड़े हिस्से को यक़ीन दिलाया था कि नेटवर्क अवधारणाओं को मनमाने ढंग से ठूँसते हैं, उन्हें ग़लत पढ़ा गया था। जो मनमानी ठुँसाई लगती थी, वह ज़्यादातर एक पैटर्न था जिसे मैं पुनरावर्ती सामान्यीकरण कहूँगा, और वह कहीं कम चिंताजनक है। इसका मतलब है कि हम नेटवर्कों का सीधे अध्ययन कर सकते हैं, पहले उन्हें सुलझाए बिना। न्यूरल नेटवर्क पहले से साफ़ हैं।”