
जैसे-जैसे एआई की जांच बढ़ती है, तकनीकी कंपनियाँ आंतरिक सुरक्षा मूल्यांकन को मजबूत करती हैं
क्या हुआ?
तकनीकी कंपनियाँ मौजूदा परीक्षणों के बारे में चिंताओं के बीच अपने एआई सुरक्षा मूल्यांकन को बढ़ा रही हैं। एंथ्रोपिक मौजूदा आकलनों में खामियों को उजागर करता है, अधिक कठोर परीक्षण विधियों की मांग करता है।
मुख्य बिंदु
- एंथ्रोपिक का शोध पत्र एआई सुरक्षा आकलनों में खामियों को उजागर करता है।
- ओपनएआई एक तैयारियों के ढांचे का उपयोग करता है, जिसमें स्वचालित परीक्षण और विशेषज्ञ समीक्षाएँ शामिल हैं।
- गूगल डीपमाइंड जोखिम पहचान के लिए स्वचालित आकलनों और मानव रेड-टीमिंग का उपयोग करता है।
- वर्तमान परीक्षण अक्सर एकल-प्रॉम्प्ट आकलनों पर ध्यान केंद्रित करते हैं, जो वास्तविक दुनिया के व्यवहार को नहीं दर्शा सकते।
- एआई मॉडल जटिल कार्यों में सक्षम होते जा रहे हैं, जिससे सुरक्षा आकलनों में जटिलता बढ़ रही है।
मुख्य अंतर्दृष्टि
- सुरक्षा आकलनों में सुधार से अधिक विश्वसनीय एआई सिस्टम बन सकते हैं।
- इन-हाउस आकलन तैनाती से पहले कमजोरियों की पहचान में मदद कर सकते हैं।
- बढ़ती जांच एआई सुरक्षा मानकों में नियामक परिवर्तनों को प्रेरित कर सकती है।
यह क्यों महत्वपूर्ण है
एआई सुरक्षा आकलनों का विकास यह प्रभावित कर सकता है कि एआई सिस्टम को कितनी प्रभावी ढंग से विनियमित और लागू किया जाता है।
स्रोत
Business Standard

