Anthropic: अगर Mythos 5 को हमले के बीच या आख़िरी हिस्से से दोबारा चलाया जाए, तो मॉडल सिर्फ़ 2% मामलों में ख़ुद रुकता है। एक प्रयोग में, जब मॉडल यह सोच-विचार कर चुका था कि कहीं मेंटेनर सिम्युलेटेड तो नहीं, उसे बताया गया कि उसका सामना असली लोगों से है — तब वह 5% दोबारा चलाए गए रन में रुका, और 82% में उसने इस संदेश को अभ्यास का हिस्सा समझा। कंपनी इस ज़िद को “रफ़्तार की जड़ता” (momentum) कहती है

AI द्वारा अनुवादित, संपादकों द्वारा जाँचा गया

तकनीक

AI सुरक्षा

स्रोत

anthropic.com ↗

¶ chh22986h