विज्ञानBreaking Newsब्रेकिंगताज़ा समाचार
OpenAI ने AI सुरक्षा जोखिमों की निगरानी के लिए Control Room लॉन्च किया
भावना: Neutralउच्च प्राथमिकता
क्या हुआ?
OpenAI ने अपने अनुसंधान बुनियादी ढांचे की निगरानी और AI मॉडल के आउटपुट को 35 सेकंड के भीतर रोकने के लिए Control Room नामक एक नई प्रणाली पेश की है। यह शक्तिशाली AI मॉडलों के संबंध में बढ़ती सुरक्षा चिंताओं को संबोधित करता है।
मुख्य बिंदु
- Control Room कार्यभारों की निगरानी करता है और वास्तविक समय में संभावित समस्याओं का पता लगाता है।
- यह प्रणाली हस्तक्षेप निर्णय के 35 सेकंड के भीतर मॉडल आउटपुट को रोक सकती है।
- यह एक फेल-क्लोज़ आधार पर काम करता है, यदि सेवा अनुपलब्ध है तो सभी अनुरोधों को अस्वीकार करता है।
- Control Room अनुसंधान कार्यभार, एक इनफेरेंस इंजन, और एक केंद्रीय सेवा को एकीकृत करता है।
- अनुसंधान कार्यभारों को एक स्वीकृत सुरक्षा मामले से जोड़ा जाना चाहिए।
- OpenAI प्रतिक्रिया समय को शून्य करने का लक्ष्य रखता है।
मुख्य अंतर्दृष्टि
- Control Room की त्वरित प्रतिक्रिया क्षमता AI सुरक्षा उपायों के लिए एक नया मानक स्थापित कर सकती है।
- केंद्रीकृत निगरानी AI अनुसंधान और तैनाती की दक्षता में सुधार कर सकती है।
- यह पहल OpenAI की AI विकास में सुरक्षा चिंताओं को संबोधित करने की प्रतिबद्धता को दर्शाती है।
यह क्यों महत्वपूर्ण है
यह विकास AI प्रणालियों के लिए सुरक्षा प्रोटोकॉल को बढ़ा सकता है, जिससे AI तैनाती से जुड़े जोखिमों को कम किया जा सकता है।
संस्थाएँ
OpenAI· OrganizationControl Room· Technology
स्रोत
Business Standard
