मशीन लर्निंग+रीइन्फ़ोर्समेंट लर्निंग → AI सुरक्षा

अमोदेई, ओला और Google, स्टैनफ़र्ड, बर्कली और OpenAI के सह-लेखक “AI सुरक्षा की ठोस समस्याएँ” प्रकाशित करते हैं: साइड इफ़ेक्ट, इनाम में सेंध, बड़े पैमाने पर निगरानी, परिवेश की सुरक्षित खोज और डेटा वितरण में बदलाव — arxiv.org ↗

विज्ञान

⚑ समर्थन

• साइबर सुरक्षा / डारियो अमोदेई: “मेरा मानना है कि अगर हम उन कामों की सूची लें, जो Anthropic ने पिछले साल सुरक्षा के पक्ष में किए और जो हमें कारोबारी तौर पर महँगे पड़े, तो वे आपकी बनाई सूची पर कहीं भारी पड़ते हैं … Mythos-श्रेणी के मॉडल हमारे पास पहली बार फ़रवरी में आ गए थे, लेकिन हमने उन्हें जून तक आम तौर पर उपलब्ध नहीं कराया (जब हमारे पास साइबर सुरक्षा के ज़्यादा मज़बूत उपाय आ गए)। … मॉडल को बस सबके लिए जारी कर देना आर्थिक रूप से कहीं ज़्यादा समझदारी भरा होता। शायद हमने कई महीनों की मॉडल-बढ़त का एक बड़ा हिस्सा क़ुर्बान कर दिया।”

¶ car56caj3