कृत्रिम बुद्धिमत्ता: उपभोक्ताओं और श्रमिकों की सुरक्षा के लिए नियामक एआई का लक्ष्य रखते हैं

चैटजीपीटी जैसे तेजी से शक्तिशाली आर्टिफिशियल इंटेलिजेंस सिस्टम पर चिंता बढ़ने के साथ, देश की वित्तीय निगरानी संस्था का कहना है कि यह सुनिश्चित करने के लिए काम कर रही है कि कंपनियां एआई का उपयोग करते समय कानून का पालन करें।

पहले से ही, स्वचालित सिस्टम और एल्गोरिदम क्रेडिट रेटिंग, ऋण शर्तों, बैंक खाता शुल्क और हमारे वित्तीय जीवन के अन्य पहलुओं को निर्धारित करने में सहायता करते हैं। एआई काम पर रखने, आवास और काम करने की स्थिति को भी प्रभावित करता है।

इलेक्ट्रॉनिक गोपनीयता सूचना केंद्र के वरिष्ठ वकील बेन विंटर्स ने कहा कि पिछले महीने संघीय एजेंसियों द्वारा जारी प्रवर्तन पर एक संयुक्त बयान एक सकारात्मक पहला कदम था।

“यह कथन है कि एआई पूरी तरह से अनियमित है, जो वास्तव में सच नहीं है,” उन्होंने कहा। “वे कह रहे हैं, ‘सिर्फ इसलिए कि आप निर्णय लेने के लिए एआई का उपयोग करते हैं, इसका मतलब यह नहीं है कि आप उस निर्णय के प्रभावों के संबंध में जिम्मेदारी से मुक्त हैं।’ ‘यह इस पर हमारी राय है। हम देख रहे हैं।'”

पिछले एक साल में, उपभोक्ता वित्त संरक्षण ब्यूरो ने कहा कि इसने गलत तरीके से स्वचालित प्रणालियों पर बैंकों पर जुर्माना लगाया है, जिसके परिणामस्वरूप नई तकनीक और दोषपूर्ण एल्गोरिदम पर संस्थानों के भरोसा करने के बाद गलत तरीके से होम फोरक्लोजर, कार रिपॉजिशन और खोया हुआ लाभ भुगतान हुआ।

उपभोक्ता संरक्षण के लिए कोई “एआई छूट” नहीं होगी, नियामक कहते हैं, उदाहरण के तौर पर इन प्रवर्तन कार्रवाइयों की ओर इशारा करते हुए।

उपभोक्ता वित्त संरक्षण ब्यूरो के निदेशक रोहित चोपड़ा ने कहा कि एजेंसी ने “आंतरिक रूप से पेशी जारी रखने के लिए कुछ काम शुरू कर दिया है, जब बोर्ड डेटा वैज्ञानिकों, प्रौद्योगिकीविदों और अन्य लोगों को लाने की बात आती है ताकि यह सुनिश्चित किया जा सके कि हम इन चुनौतियों का सामना कर सकें” और यह कि एजेंसी जारी है संभावित अवैध गतिविधि की पहचान करने के लिए। संघीय व्यापार आयोग, समान रोजगार अवसर आयोग, और न्याय विभाग के साथ-साथ सीएफपीबी के प्रतिनिधियों का कहना है कि वे संसाधनों और कर्मचारियों को निर्देश दे रहे हैं कि वे नई तकनीक का लक्ष्य रखें और उन नकारात्मक तरीकों की पहचान करें जो उपभोक्ताओं के जीवन को प्रभावित कर सकते हैं। .

चोपड़ा ने कहा, “हम जिन चीजों को स्पष्ट करने की कोशिश कर रहे हैं उनमें से एक यह है कि अगर कंपनियां यह भी नहीं समझती हैं कि उनका एआई निर्णय कैसे ले रहा है, तो वे वास्तव में इसका उपयोग नहीं कर सकते हैं।” “अन्य मामलों में, हम देख रहे हैं कि जब इस सभी डेटा के उपयोग की बात आती है तो हमारे उचित उधार कानूनों का पालन कैसे किया जा रहा है।”

फेयर क्रेडिट रिपोर्टिंग एक्ट और समान क्रेडिट अवसर अधिनियम के तहत, उदाहरण के लिए, वित्तीय प्रदाताओं के पास किसी भी प्रतिकूल क्रेडिट निर्णय की व्याख्या करने का कानूनी दायित्व है। इसी तरह वे नियम आवास और रोजगार के बारे में लिए गए निर्णयों पर भी लागू होते हैं। जहां एआई उन तरीकों से निर्णय लेता है जो समझाने के लिए बहुत अपारदर्शी हैं, नियामकों का कहना है कि एल्गोरिदम का उपयोग नहीं किया जाना चाहिए।

“मुझे लगता है कि एक भावना थी कि, ‘ओह, चलो इसे रोबोटों को दे दें और अब कोई भेदभाव नहीं होगा,” चोपड़ा ने कहा। “मुझे लगता है कि सीखने की बात यह है कि वास्तव में यह बिल्कुल भी सच नहीं है। कुछ मायनों में पूर्वाग्रह डेटा में निर्मित होता है।”

EEOC के अध्यक्ष शार्लोट बरोज़ ने कहा कि एआई हायरिंग तकनीक के खिलाफ प्रवर्तन होगा जो विकलांग आवेदकों को नौकरी से बाहर करता है, उदाहरण के लिए, साथ ही तथाकथित “बॉसवेयर” जो अवैध रूप से श्रमिकों का सर्वेक्षण करता है।

बरोज़ ने उन तरीकों का भी वर्णन किया है जो एल्गोरिदम तय कर सकते हैं कि कैसे और कब कर्मचारी मौजूदा कानून का उल्लंघन करने वाले तरीकों से काम कर सकते हैं।

“यदि आपको एक ब्रेक की आवश्यकता है क्योंकि आप विकलांग हैं या शायद आप गर्भवती हैं, तो आपको एक ब्रेक की आवश्यकता है,” उसने कहा। “एल्गोरिदम आवश्यक रूप से उस आवास को ध्यान में नहीं रखता है। वे चीजें हैं जिन्हें हम बारीकी से देख रहे हैं … मैं स्पष्ट होना चाहता हूं कि जब हम मानते हैं कि प्रौद्योगिकी विकसित हो रही है, तो यहां अंतर्निहित संदेश यह है कि कानून अभी भी लागू होते हैं और हमारे पास लागू करने के लिए उपकरण हैं।”

ओपनएआई के शीर्ष वकील ने इस महीने एक सम्मेलन में विनियमन के लिए उद्योग के नेतृत्व वाले दृष्टिकोण का सुझाव दिया।

“मुझे लगता है कि यह पहले किसी तरह के मानकों को प्राप्त करने की कोशिश के साथ शुरू होता है,” OpenAI के जनरल काउंसलर जेसन क्वोन ने सॉफ्टवेयर उद्योग समूह बीएसए द्वारा आयोजित वाशिंगटन, डीसी में एक तकनीकी शिखर सम्मेलन में बताया। “वे उद्योग के मानकों के साथ शुरू हो सकते हैं और उसके आसपास किसी प्रकार का तालमेल हो सकता है। और उन्हें अनिवार्य बनाने या न करने के बारे में निर्णय, और यह भी कि उन्हें अद्यतन करने की प्रक्रिया क्या है, वे चीजें शायद अधिक बातचीत के लिए उपजाऊ जमीन हैं।”

ओपनएआई के प्रमुख सैम ऑल्टमैन, जो चैटजीपीटी बनाता है, ने कहा कि सरकार का हस्तक्षेप “तेजी से शक्तिशाली” एआई सिस्टम के जोखिमों को कम करने के लिए महत्वपूर्ण होगा, जो प्रौद्योगिकी को लाइसेंस देने और विनियमित करने के लिए एक यूएस या वैश्विक एजेंसी के गठन का सुझाव देता है।

जबकि कोई तत्काल संकेत नहीं है कि कांग्रेस नए एआई नियमों को व्यापक रूप से तैयार करेगी, जैसा कि यूरोपीय कानूनविद कर रहे हैं, सामाजिक चिंताओं ने इन उपकरणों के निहितार्थ के बारे में कठिन सवालों के जवाब देने के लिए ऑल्टमैन और अन्य तकनीकी सीईओ को इस महीने व्हाइट हाउस में लाया।

इलेक्ट्रॉनिक प्राइवेसी इंफॉर्मेशन सेंटर के विंटर्स ने कहा कि एजेंसियां ​​प्रासंगिक एआई बाजारों पर जानकारी का अध्ययन और प्रकाशन करने के लिए और अधिक कर सकती हैं कि उद्योग कैसे काम कर रहा है, सबसे बड़े खिलाड़ी कौन हैं, और एकत्र की गई जानकारी का उपयोग कैसे किया जा रहा है – जिस तरह से नियामक अतीत में नए उपभोक्ता वित्त उत्पादों और प्रौद्योगिकियों के साथ किया है।

“सीएफपीबी ने ‘अभी खरीदें, बाद में भुगतान करें’ कंपनियों के साथ इस पर बहुत अच्छा काम किया है,” उन्होंने कहा। “एआई पारिस्थितिकी तंत्र के बहुत से हिस्से हो सकते हैं जो अभी भी इतने अज्ञात हैं। उस जानकारी को प्रकाशित करना एक लंबा रास्ता तय करेगा।”