सामान्यTop Storyटॉप स्टोरीताज़ा समाचार
OpenAI ने AI किल स्विच बनाया जो 35 सेकंड में बागी मॉडलों को रोक सकता है: यह कैसे काम करता है
भावना: Neutralउच्च प्राथमिकता
क्या हुआ?
OpenAI ने 'कंट्रोल रूम' लॉन्च किया है, जो अप्रत्याशित व्यवहार दिखाने वाले AI मॉडलों को रोकने के लिए एक सुरक्षा प्रणाली है। यह प्रणाली 35 सेकंड के भीतर कार्यों को रोक सकती है, AI संचालन पर नियंत्रण बढ़ाती है।
मुख्य बिंदु
- 'कंट्रोल रूम' प्रणाली समाप्ति निर्देश प्राप्त करने के 35 सेकंड के भीतर AI कार्यों को रोक सकती है।
- इसमें तीन घटक शामिल हैं: कार्यभार, अनुमान इंजन, और केंद्रीय कंट्रोल रूम सेवा।
- यदि कंट्रोल रूम विफल होता है, तो यह फिर से चालू होने तक सभी AI अनुमान अनुरोधों को रोक देता है।
- यह प्रणाली स्वायत्त AI एजेंटों के बढ़ते चिंताओं के बीच सुरक्षा बढ़ाने का लक्ष्य रखती है।
मुख्य अंतर्दृष्टि
- 'कंट्रोल रूम' का कार्यान्वयन शोधकर्ताओं के बीच AI प्रणालियों में विश्वास बढ़ा सकता है।
- यह प्रणाली उद्योग में AI विकास के लिए सुरक्षा उपायों का एक उदाहरण स्थापित कर सकती है।
- AI कार्यों को जल्दी रोकने की क्षमता स्वायत्त AI एजेंटों से जुड़े जोखिमों को कम कर सकती है।
यह क्यों महत्वपूर्ण है
यह विकास AI अनुसंधान में सुरक्षा प्रोटोकॉल को बढ़ा सकता है, स्वायत्त प्रणालियों के बारे में चिंताओं को संबोधित करते हुए।
संस्थाएँ
OpenAI· OrganizationControl Room· Technology
स्रोत
Times Now
