विज्ञानTop Storyटॉप स्टोरीताज़ा समाचार
समझाया गया: एआई जेलब्रेक - यह क्या है, यह कैसे काम करता है, और यह क्यों महत्वपूर्ण है
भावना: Neutralउच्च प्राथमिकता
क्या हुआ?
फ्रंटियर मॉडल फोरम ने एआई जेलब्रेक से संबंधित खतरों का आकलन करने के लिए एक ढांचा लॉन्च किया है, जो मॉडलों को सुरक्षा नियमों को बायपास करने की अनुमति देता है। यह ढांचा डेवलपर्स को एआई सिस्टम में कमजोरियों की पहचान करने में मदद करने का लक्ष्य रखता है।
मुख्य बिंदु
- फ्रंटियर मॉडल फोरम में ओपनएआई, माइक्रोसॉफ्ट और गूगल डीपमाइंड जैसे सदस्य शामिल हैं।
- एआई जेलब्रेक्स हानिकारक सामग्री उत्पन्न करने से रोकने के लिए बनाए गए सुरक्षा नियमों को बायपास करने का प्रयास करते हैं।
- क्रेसेंडो जैसी तकनीकें 10 से कम एक्सचेंज में सुरक्षा फ़िल्टर को बायपास कर सकती हैं।
- माइक्रोसॉफ्ट जेलब्रेक जोखिमों को कम करने के लिए शून्य-विश्वास दृष्टिकोण की सिफारिश करता है।
- डेवलपर्स नियमित रूप से मॉडलों का परीक्षण कर रहे हैं ताकि कमजोरियों की पहचान और सुधार किया जा सके।
मुख्य अंतर्दृष्टि
- एआई जेलब्रेक संवेदनशील डेटा तक अनधिकृत पहुंच का कारण बन सकते हैं।
- एआई एजेंटों को तैनात करने वाली कंपनियों को जोखिमों को कम करने के लिए सख्त पहुंच नियंत्रण लागू करना चाहिए।
- जेलब्रेक तकनीकों की विकसित होती प्रकृति सुरक्षा उपायों को निरंतर अपडेट करने की आवश्यकता है।
यह क्यों महत्वपूर्ण है
एआई जेलब्रेक को समझना महत्वपूर्ण है क्योंकि ये अनधिकृत पहुंच और एआई सिस्टम के दुरुपयोग का कारण बन सकते हैं।
संस्थाएँ
Frontier Model Forum· OrganizationOpenAI· CompanyMicrosoft· CompanyGoogle DeepMind· CompanyAnthropic· Company
स्रोत
Business Standard
