सिलिकॉन वैली के भविष्य के निर्माण के लिए जानी जाने वाली उच्च शिक्षा के गढ़ स्टैनफोर्ड विश्वविद्यालय ने इस सप्ताह एक विशाल पार्टी के साथ मानव-केंद्रित आर्टिफिशियल इंटेलिजेंस संस्थान का शुभारंभ किया। बिल गेट्स और गेविन न्यूजॉम जैसे बड़े नामों और अरबपतियों ने कथित मिशन को वापस करने के लिए परिसर में दायर किया कि "एआई के रचनाकारों और डिजाइनरों को व्यापक रूप से मानवता का प्रतिनिधि होना चाहिए।"
नए एआई संस्थान में 100 से अधिक संकाय सदस्य हैं जो अपनी वेबसाइट पर सूचीबद्ध हैं और गुरुवार को साइबर सुरक्षा कार्यकारी चाड लॉडर ने देखा कि स्टैनफोर्ड के नए एआई संकाय का एक भी सदस्य काला नहीं था।
आगे जो हुआ, वह जनसंपर्क का एक अजीब कारनामा था।
गुरुवार सुबह जब गिज़्मोडो स्टैनफोर्ड पहुंचे, तो संस्थान की वेबसाइट को एक पूर्व असूचीबद्ध फैकल्टी सदस्य, जुलियाना बडिडान्योर , दर्शन के एक सहायक प्रोफेसर को शामिल करने के लिए जल्दी से अपडेट किया गया । इंटरनेट आर्काइव्स वेकबैक मशीन पर संरक्षित पेज के एक संस्करण के अनुसार, गुरुवार को स्कूल में हमारे ईमेल से पहले संस्थान के कर्मचारियों के बीच Bidadanure को सूचीबद्ध नहीं किया गया था , लेकिन उसने इस सप्ताह संस्थान के उद्घाटन समारोह में बात की थी। वास्तव में, स्कूल Bidadanure को जोड़ते हुए दिखाई दिया, और बाद में उसका बायो, संकाय पृष्ठ पर, क्योंकि मैं यह लेख लिख रहा था।
हमारी गिनती के आधार पर, संस्थान के संकाय में 114 कुल कर्मचारियों में से 72 श्वेत पुरुष शामिल हैं, या 63 प्रतिशत-एक आंकड़ा है जो जाहिरा तौर पर किसी भी समय बदल सकता है। स्टैनफोर्ड ने हमारे सवालों का जवाब नहीं दिया।
स्टैनफोर्ड से लगभग एक घंटे की ड्राइव पर, मैं बुधवार रात कैलिफोर्निया के बर्कले में 150 लोगों की लंबी लाइन में इंतजार कर रहा था, एक सभागार में बेच दिया। हम सभी ऑक्सफोर्ड इंटरनेट इंस्टीट्यूट की डॉ। सफिया नोबल, 2018 की किताब एलगोरिदम ऑफ ऑप्रेशन के लेखक के बारे में सुनने के लिए आए, इस बारे में बात करें कि कैसे सिलिकॉन वैली के एल्गोरिदम - कोड को सर्च इंजन से कृत्रिम बुद्धिमत्ता तक सबकुछ ड्राइविंग करने वाले नस्लवाद को सुदृढ़ कर सकते हैं।
"उन लोगों को ढूंढना बहुत मुश्किल था जो 2010 में एक शोध समिति पर होंगे जो अपना नाम लाइन में लगाने के लिए तैयार होंगे और कहेंगे कि हमें लगता है कि प्रौद्योगिकी भेदभाव कर सकती है या एल्गोरिदम भेदभाव कर सकती है," नोबल, जिन्होंने एक दशक पहले अपना शोध शुरू किया था। इससे पहले, कल रात बर्कले में कहा गया था। "उस समय ज्यादातर लोग जो कह रहे थे, वह था, 'यह सिर्फ गणित है। कोड भेदभाव नहीं कर सकता। ' वह प्रमुख प्रवचन था। मैंने यह तर्क देने के लिए बहुत सारे शारीरिक दोष लिए कि हमारे प्रौद्योगिकी मंच में नस्लवादी और सेक्सिस्ट पूर्वाग्रह हो सकते हैं। और फिर भी आज हम यहाँ हैं। ”
आज, हम एक ऐसे युग में रहते हैं जहाँ भविष्यवाणिय पुलिसिंग वास्तविक है और अल्पसंख्यक समुदायों पर असम्मानजनक रूप से प्रहार कर सकती है, नौकरी पर रखने का काम AI द्वारा संभाला जाता है और महिलाओं के खिलाफ भेदभाव किया जा सकता है, जहाँ Google और Facebook के एल्गोरिदम अक्सर यह तय करते हैं कि हम कौन सी जानकारी देखते हैं और कौन सा षड्यंत्र सिद्धांत YouTube आगे बढ़ता है । लेकिन उन निर्णयों को बनाने वाले एल्गोरिदम वैश्विक प्रभाव के साथ कंपनी के रहस्यों को बारीकी से देखते हैं ।
सिलिकॉन वैली और व्यापक खाड़ी क्षेत्र में, वार्तालाप और स्पीकर शिफ्ट हो गए हैं। यह अब सवाल नहीं है कि क्या प्रौद्योगिकी भेदभाव कर सकती है। सवाल अब शामिल है जो असर पड़ा जा सकता है, कैसे हम इसे ठीक कर सकते हैं और क्या हम भी वैसे भी निर्माण कर रहे हैं?
जब ज्यादातर सफेद इंजीनियरों का एक समूह इन प्रणालियों को बनाने के लिए एक साथ हो जाता है, तो काले समुदायों पर प्रभाव विशेष रूप से कम होता है। एल्गोरिदम हाउसिंग और पुलिसिंग जैसे डोमेन में नस्लवाद को मजबूत कर सकते हैं । एल्गोरिथम पूर्वाग्रह दर्पण है जो हम वास्तविक दुनिया में देखते हैं। आर्टिफिशियल इंटेलिजेंस अपने डेवलपर्स को दिखाता है और इसके द्वारा प्रशिक्षित डेटा सेट।
जहाँ एक लोकप्रिय पौराणिक कथा हुआ करती थी कि एल्गोरिदम सिर्फ उद्देश्य ज्ञान परोसने का तकनीक का तरीका था, अब तकनीक का निर्माण करने वाले और हमारे बाकी लोगों के लिए क्या कर रहा है, इसके बारे में एक जोरदार और तेजी से वैश्विक तर्क है। कृत्रिम बुद्धिमत्ता उद्योग का उद्भव इसे और भी आगे बढ़ा रहा है क्योंकि एआई सिस्टम जो हमारे जीवन पर हावी होंगे, सीखने और प्रक्रियाओं में निर्णय स्वचालित करने के लिए हैं जो तेजी से अपारदर्शी और कम जवाबदेह हैं।
पिछले महीने, 40 से अधिक नागरिक अधिकार समूहों ने डाटा-चालित भेदभाव को दूर करने के लिए कांग्रेस को पत्र लिखा। और दिसंबर में, इलेक्ट्रॉनिक गोपनीयता सूचना केंद्र (महाकाव्य) एक भेजा बयान तर्क यह है कि का ब्यौरा सदन न्यायपालिका समिति को "एल्गोरिथम पारदर्शिता" तकनीकी कंपनियों के लिए आवश्यक होना चाहिए।
"कानून और प्रौद्योगिकी के चौराहे पर, एल्गोरिथ्म का ज्ञान एक मौलिक मानव अधिकार है," ईपीआईसी के अध्यक्ष, मार्क रोटेनबर्ग ने इस मुद्दे पर कहा ।
स्टैनफोर्ड के नए मानव-एआई संस्थान का घोषित लक्ष्य सराहनीय है। लेकिन एक समूह है कि वास्तव में "मानवता के मोटे तौर पर प्रतिनिधि," पाने के लिए वे जाने के लिए एक रास्ता मिल गया है।
स्टैंडफोर्ड एचएआई ने गिजमोदो को एक बयान में कहा कि यह सहमत है कि "हम वह नहीं हैं जहां हमें होना चाहिए" लेकिन स्टैनफोर्ड एचएआई को 20 नए संकायों की भर्ती करने और अनुसंधान के लिए बीज अनुदान की प्रक्रिया में विविधता है। दोनों मोर्चों पर हमारे लिए एक सर्वोच्च प्राथमिकता। ”यहां देखें संस्थान का पूरा बयान:
कई कारणों में से एक हमने स्टैनफोर्ड एचएआई को बनाया है, एआई में विविधता, समावेशन और प्रतिनिधित्व जैसे महत्वपूर्ण मुद्दों पर चर्चा, अनुसंधान करने और संबोधित करने के लिए। हम सहमत हैं कि हम वह स्थान नहीं हैं जहाँ हमें होना चाहिए, लेकिन हम स्टैनफोर्ड भर में फैले संकाय के समूह पर बहुत गर्व करते हैं। हम स्टैनफोर्ड एचएआई को 20 नए संकायों की भर्ती करने और अनुसंधान के लिए बीज अनुदानों की फंडिंग की प्रक्रिया में हैं - विविधता हमारे लिए दोनों मोर्चों पर सर्वोच्च प्राथमिकता है।इसके अतिरिक्त, स्टैनफोर्ड जन्मभूमि है और अब AI4All का एक भागीदार है, एक गैर-लाभकारी जिसका एक्सप्रेस उद्देश्य पीढ़ियों से कम प्रतिनिधित्व वाली पृष्ठभूमि से छात्रों को उलझाकर आने वाली पीढ़ियों के लिए एआई में विविधता को बढ़ाना है। लंबे समय तक समाधान का एक महत्वपूर्ण हिस्सा - स्टैनफोर्ड में और उद्योग में बड़े दोनों - एसटीईएम क्षेत्रों में आने वाली प्रतिभा को बढ़ा रहे हैं। हम अपनी प्रगति से आज तक प्रभावित हैं और क्षेत्र में और HAI के भीतर विविधता में सुधार के लिए प्रतिबद्ध हैं।
No comments:
Post a Comment