OpenAI, Google, Microsoft अपने AI मॉडल के साथ पारदर्शी नहीं हैं: स्टैनफोर्ड
प्रमुख कृत्रिम बुद्धिमत्ता (एआई) फाउंडेशन मॉडल डेवलपर्स को अपने मॉडलों को प्रशिक्षित करने के तरीके में अधिक पारदर्शी होने की आवश्यकता हैसमाज पर प्रभावस्टैनफोर्ड यूनिवर्सिटी की एक नई रिपोर्ट कहती है।
स्टैनफोर्ड ह्यूमन-सेंटर्ड आर्टिफिशियल इंटेलिजेंस (एचएआई) के माध्यम से, कैलिफोर्निया स्थित विश्वविद्यालय का कहना है कि ये प्रमुख एआई कंपनियां कम पारदर्शी होती जा रही हैं क्योंकि उनके मॉडल अधिक शक्तिशाली हो गए हैं।
“पिछले तीन वर्षों में यह स्पष्ट है कि पारदर्शिता कम हो रही है जबकि क्षमता चरमरा रही है। हम इसे अत्यधिक समस्याग्रस्त मानते हैं क्योंकि हमने सोशल मीडिया जैसे अन्य क्षेत्रों में देखा है कि जब पारदर्शिता कम हो जाती है, तो परिणामस्वरूप बुरी चीजें हो सकती हैं, ”स्टैनफोर्ड के प्रोफेसर पर्सी लियांग ने कहा।
फाउंडेशन मॉडल डेवलपर कम पारदर्शी होते जा रहे हैं, जिससे शोधकर्ताओं, नीति निर्माताओं और जनता के लिए यह समझना मुश्किल हो गया है कि ये मॉडल कैसे काम करते हैं, साथ ही उनकी सीमाएं और प्रभाव भी। विद्वान 10 डेवलपर्स की पारदर्शिता का आकलन करते हैं। https://t.co/AkxI27Jhm0 pic.twitter.com/h09p8CZD3b
– स्टैनफोर्ड HAI (@StanfordHAI) 18 अक्टूबर 2023
जबकि नियामक, शोधकर्ता और उपयोगकर्ता मांग करना जारी रखते हैंपारदर्शिताएआई मॉडल डेवलपर्स इन मांगों के खिलाफ मजबूती से खड़े हुए हैं। जब यहका शुभारंभ कियामार्च में GPT-4, OpenAI ने कहा कि वह इस बारे में चुप्पी साधे रखेगा कि यह कैसे काम करता है।
“प्रतिस्पर्धी परिदृश्य और GPT-4 जैसे बड़े पैमाने के मॉडल के सुरक्षा निहितार्थ दोनों को देखते हुए, इस रिपोर्ट में आर्किटेक्चर (मॉडल आकार सहित), हार्डवेयर, प्रशिक्षण गणना, डेटासेट निर्माण, प्रशिक्षण विधि, या इसी तरह के बारे में कोई और विवरण नहीं है।” इसमें कहा गया हैसफेद कागज.
स्टैनफोर्ड टीम का कहना है कि सभी प्रमुख एआई फाउंडेशन मॉडल की यह अपारदर्शी प्रकृति उपभोक्ताओं को उनकी सीमाओं से अनजान बनाती है। नियामक भी फॉर्मूला नहीं बना पा रहे हैंसार्थक नीतियांसेक्टर के लिए.
मैसाचुसेट्स इंस्टीट्यूट ऑफ टेक्नोलॉजी (एमआईटी) और प्रिंसटन के विशेषज्ञों के साथ साझेदारी में शोधकर्ताओं ने इसके लॉन्च की भी घोषणा कीफाउंडेशन मॉडल पारदर्शिता सूचकांक. यह एआई मॉडल पारदर्शिता के 100 पहलुओं का मूल्यांकन करता है और क्षेत्र के सबसे प्रमुख खिलाड़ियों को रेटिंग देता है।
हालाँकि उन सभी को खराब रेटिंग प्राप्त हुई, मेटा (नैस्डैक: मेटा)लामापहुंच, वितरण और तरीकों में उच्च रेटिंग के साथ 54% पर पहले स्थान पर है। ओपनएआई का जीपीटी-4, जो इसके चैटजीपीटी चैटबॉट के भुगतान किए गए संस्करण को शक्ति प्रदान करता है, 48% के साथ तीसरे स्थान पर है। अमेज़ॅन (NASDAQ:AMZN) कम प्रसिद्ध टाइटन टेक्स्ट 12% के साथ सबसे निचले स्थान पर है।
रिपोर्ट के पीछे स्टैनफोर्ड के शोधकर्ताओं में से एक, ऋषि बोम्मासानी ने टिप्पणी की, “सूचकांक के साथ हम जो हासिल करने की कोशिश कर रहे हैं वह मॉडल को अधिक पारदर्शी बनाना और उस बहुत अनाकार अवधारणा को अधिक ठोस मामलों में अलग करना है जिन्हें मापा जा सकता है।”
देखें: AI वास्तव में जनरेटिव नहीं है, यह सिंथेटिक है
ब्लॉकचेन पर नए हैं? कॉइनगीक देखें शुरुआती लोगों के लिए ब्लॉकचेन अनुभाग, ब्लॉकचेन प्रौद्योगिकी के बारे में अधिक जानने के लिए अंतिम संसाधन मार्गदर्शिका।
