सामान्यTop Storyटॉप स्टोरीताज़ा समाचार
एंथ्रोपिक का क्लॉड अश्लील व्यवहार को चिह्नित करने के लिए आत्म-मूल्यांकन सुविधा पेश करता है
भावना: Neutralउच्च प्राथमिकता
क्या हुआ?
एंथ्रोपिक ने अपने एआई मॉडल क्लॉड के लिए आत्म-मूल्यांकन सुविधा शुरू की है, जिससे यह बातचीत का मूल्यांकन कर सकता है। यह उपकरण जून 2026 से कार्यशील है और चैट इंटरैक्शन में सुरक्षा बढ़ाने का लक्ष्य रखता है।
मुख्य बिंदु
- क्लॉड की आत्म-मूल्यांकन सुविधा बातचीत का मूल्यांकन करती है।
- यह सुविधा जून 2026 से चुपचाप चल रही है।
- यह हानिकारक इंटरैक्शन को मानव समीक्षा के लिए चिह्नित करती है।
- आत्म-मूल्यांकन की गलत सकारात्मक दर केवल 1% है।
- अगस्त 2026 में, इसने 100,000 से अधिक बाल शोषण सामग्री के मामले चिह्नित किए।
- इसके प्रभावी होने के बावजूद, यह समर्पित हमलों के खिलाफ एकमात्र समाधान नहीं है।
मुख्य अंतर्दृष्टि
- आत्म-मूल्यांकन सुविधा एआई सुरक्षा प्रौद्योगिकी में एक महत्वपूर्ण प्रगति का प्रतिनिधित्व करती है।
- यह उपयोगकर्ताओं के बीच एआई सिस्टम में विश्वास को बढ़ा सकती है।
- अज्ञात हानिकारक व्यवहार का पता लगाने की क्षमता एआई सुरक्षा के लिए एक नया मानक स्थापित कर सकती है।
यह क्यों महत्वपूर्ण है
यह सुविधा वास्तविक समय में हानिकारक इंटरैक्शन की पहचान करके उपयोगकर्ता की सुरक्षा बढ़ा सकती है।
टैग
संस्थाएँ
Claude· TechnologyAnthropic· Organization
स्रोत
India Today
