सिलिकॉन वैली के अंदर, आम सहमति यह है कि कृत्रिम बुद्धि अगले दशक के लिए सबसे महत्वपूर्ण तकनीक होगी। ठीक है, लेकिन हममें से बाकी लोगों के लिए इसका क्या मतलब है?
अगली पीढ़ी की दुनिया बदलने वाली तकनीक में पारदर्शिता और जवाबदेही के निर्माण की कोशिश में, अमेरिकी सांसदों ने पूर्वाग्रह के लिए मशीन सीखने की प्रणालियों का ऑडिट करने के लिए बड़ी कंपनियों की आवश्यकता के लिए बुधवार को एक विधेयक पेश किया।
डेमोक्रेटिक सीनेटर रॉन विडेन और कोरी बुकर ने बुधवार को अल्गोरिदमिक जवाबदेही अधिनियम पेश किया । डेमोक्रेटिक कांग्रेसवोमेन यवेटे क्लार्क ने प्रतिनिधि सभा में एक समान विधेयक पेश किया।
मशीन लर्निंग और आर्टिफिशियल इंटेलिजेंस पहले से ही चेहरे की पहचान, सेल्फ ड्राइविंग कार, विज्ञापन लक्ष्यीकरण, ग्राहक सेवा, कंटेंट मॉडरेशन, पुलिसिंग, हायरिंग और यहां तक कि युद्ध जैसी महत्वपूर्ण प्रक्रियाओं और उपकरणों की एक भ्रामक व्यापक स्वीप की शक्ति प्रदान करता है। यह एक बहुत बड़ी सूची है, और कभी-कभी यह मजेदार है कि उन सभी उपयोगों को अलग-अलग करने के लिए वापस बैठना और चमत्कार करना।
वास्तव में वे निर्णय कैसे किए जाते हैं और वे उचित हैं या नहीं, हालांकि, अक्सर अपारदर्शी या अनजाने होते हैं। इस समस्या ने सांसदों को "ब्लैक बॉक्स" खोलने के प्रयास के लिए प्रेरित किया।
नया बिल फेडरल ट्रेड कमीशन को नियमों का मसौदा तैयार करने के साथ काम करेगा, जिससे कंपनियां निर्णय लेने की प्रणाली और प्रशिक्षण डेटा का मूल्यांकन "सटीकता, निष्पक्षता, पूर्वाग्रह, भेदभाव, गोपनीयता और सुरक्षा के प्रभावों के लिए" स्वचालित निर्णय प्रणालियों का "प्रभाव आकलन" करती हैं।
बिल से $ 50 मिलियन प्रति वर्ष या एक मिलियन से अधिक व्यक्तियों का डेटा रखने वाली कंपनियों को लक्षित किया जाएगा।
एसोसिएटेड प्रेस के साथ एक साक्षात्कार में वेडन ने कहा, "कंप्यूटर बहुत सारे प्रमुख निर्णयों में शामिल हैं, जो अमेरिकी अपने दैनिक जीवन के संबंध में करते हैं - चाहे कोई घर खरीद सकता है, नौकरी पा सकता है या जेल भी जा सकता है।"
यह कोई काल्पनिक परिदृश्य नहीं है। एक स्थिति को देखें जो 2018 में अमेज़ॅन पर उठी । अमेरिकी टेक दिग्गज, एआई में एक विश्व नेता, ने यह तय करने में मदद के लिए तकनीक का इस्तेमाल किया कि उसे किन आवेदकों को नौकरियों के लिए साक्षात्कार देना चाहिए। दो साल के डिजाइन के बाद, उन्होंने पाया कि किसी भी महिला आवेदक को सूची के पीछे स्वचालित रूप से विस्फोट कर दिया गया था।
एआई नाउ इंस्टीट्यूट के केट क्रॉफोर्ड ने हाल ही में कारा स्विशर के साथ एक साक्षात्कार में इस घटना पर चर्चा की।
"यह हमें दो बातें बताता है," क्रॉफोर्ड ने कहा। "एक, यह वास्तव में इन उपकरणों को स्वचालित करने के लिए बहुत कठिन है जितना आप कल्पना कर सकते हैं, क्योंकि अमेज़ॅन को कुछ बहुत बढ़िया इंजीनियर मिले हैं। ऐसा नहीं है कि वे नहीं जानते कि वे क्या कर रहे हैं। यह आपको रिज्यूम के ढेर के बारे में भी कुछ बताता है जो उनके पास था। वे इस पर क्या प्रशिक्षण ले रहे थे? प्रशिक्षण डेटा क्या था? आश्चर्य, आश्चर्य: मूल रूप से उनके पूरे इंजीनियरिंग पूल में बहुत सारे सफेद दोस्त। "
पिछले महीने के भीतर, फ़ेसबुक के भेदभावपूर्ण विज्ञापन व्यवहार सुर्खियों में आए और कंपनी को अब आवास और शहरी विकास विभाग से निष्पक्ष आवास अधिनियम के तहत भेदभाव के आरोप भी लगे ।
क्लार्क ने कहा, "बड़ी कंपनियों को अपने स्वचालित सिस्टम के अनपेक्षित प्रभावों की ओर आंखें मूंदने की आवश्यकता नहीं होने से, अल्गोरिदमिक जवाबदेही अधिनियम सुनिश्चित करता है कि 21 वीं सदी की तकनीकें हाशिए के बजाय सशक्तीकरण के उपकरण हैं, जबकि सभी उपभोक्ताओं की सुरक्षा और गोपनीयता पर भी बल दिया गया है," क्लार्क ने कहा। ।
No comments:
Post a Comment