सामान्यTop Storyटॉप स्टोरीताज़ा समाचार
एंथ्रोपिक ने AI मॉडल की पुष्टि के लिए नया ओपन-सोर्स टूल FlashProve पेश किया
भावना: Neutralउच्च प्राथमिकता
क्या हुआ?
एंथ्रोपिक ने FlashProve लॉन्च किया है, जो AI मॉडल की पुष्टि के लिए एक ओपन-सोर्स टूल है, जो AI-जनित उत्तरों की प्रामाणिकता के बारे में चिंताओं को संबोधित करता है। यह प्रोटोटाइप एक डिजिटल झूठा डिटेक्टर की तरह काम करता है, यह सुनिश्चित करता है कि उपयोगकर्ताओं को इच्छित AI मॉडल से उत्तर प्राप्त हों।
मुख्य बिंदु
- FlashProve एक गणितीय गारंटी प्रदान करता है कि AI उत्तर अनुरोधित मॉडल से आते हैं।
- यह टूल AI प्रतिक्रियाओं की पुष्टि के लिए एक ज़ीरो-नॉलेज प्रूफ (zkSNARK) का उपयोग करता है, बिना अंतर्निहित कोड को प्रकट किए।
- एंथ्रोपिक ने FlashProve विकसित करने के लिए MIT, EPFL, StarkWare और Succinct के साथ सहयोग किया।
- इस प्रणाली का परीक्षण 400-बिलियन-पैरामीटर AI मॉडल Llama 4 Maverick पर किया गया।
- प्रूफ उत्पन्न करना गणनात्मक रूप से गहन है, AI कंपनियों से महत्वपूर्ण संसाधनों की आवश्यकता होती है।
मुख्य अंतर्दृष्टि
- FlashProve का परिचय AI इंटरैक्शन में पारदर्शिता बढ़ा सकता है।
- व्यवसाय इस तकनीक का उपयोग AI-जनित आउटपुट की पुष्टि के लिए कर सकते हैं।
- जैसे-जैसे AI का उपयोग बढ़ता है, FlashProve जैसे टूल उपयोगकर्ता विश्वास बनाए रखने के लिए आवश्यक हो सकते हैं।
यह क्यों महत्वपूर्ण है
FlashProve उपयोगकर्ताओं को सत्यापित प्रतिक्रियाएँ प्राप्त करने की सुनिश्चितता देकर AI प्रणालियों में विश्वास बढ़ा सकता है।
स्रोत
India Today
