फ़ज़िंग+बड़ा भाषा मॉडल → AI से कमज़ोरियों की खोज

एजेंट Big Sleep (Google Project Zero और Google DeepMind) SQLite में मेमोरी से जुड़ी एक ऐसी ग़लती ढूँढता है, जिसे एक्सप्लॉइट किया जा सकता था — Google के मुताबिक़, व्यापक रूप से इस्तेमाल होने वाले प्रोग्राम में किसी AI एजेंट की ऐसी खोज का पहला सार्वजनिक उदाहरण — projectzero.google ↗

साइबर सुरक्षा · सॉफ़्टवेयर विकास

⚑ समर्थन

• साइबर सुरक्षा / शॉन हीलन: “हमें यह मानकर चलना शुरू कर देना चाहिए कि निकट भविष्य में किसी देश या समूह की एक्सप्लॉइट बनाने, नेटवर्क में सेंध लगाने, अपने अधिकार बढ़ाने और उन नेटवर्क में टिके रहने की क्षमता को सीमित करने वाली चीज़ समय के साथ उनका टोकन थ्रूपुट होगी, न कि उनके यहाँ काम करने वाले हैकरों की संख्या।”
• सॉफ़्टवेयर विकास / ग्रेग क्रोआ-हार्टमैन: “कुछ महीने पहले तक हमारे पास वह आता था, जिसे हम “AI स्लॉप” कहते थे, … एक महीने पहले कुछ हुआ, और दुनिया पलट गई। अब हमारे पास असली रिपोर्टें आती हैं। … सभी ओपन सोर्स प्रोजेक्टों के पास AI की मदद से बनी असली रिपोर्टें हैं, लेकिन वे अच्छी हैं, और वे असली हैं।”

¶ cvs58risf