टेक फर्मों के इस समूह ने अभी एक सुरक्षित metaverse के लिए साइन अप किया है

इंटरनेट मानवता के सबसे बुरे पहलुओं के एक अथाह गड्ढे की तरह महसूस कर सकता है। अब तक, इस बात के बहुत कम संकेत हैं कि metaverse – एक काल्पनिक आभासी डिजिटल दुनिया जहाँ हम काम करते हैं, खेलते हैं और रहते हैं – बहुत बेहतर होगा। मेटा के वर्चुअल सोशल प्लेटफॉर्म, होराइजन वर्ल्ड्स में एक बीटा टेस्टर ने पहले ही टटोलने की शिकायत की है।

Tiffany Xingyu Wang को लगता है कि उसके पास एक समाधान है। अगस्त 2020 में—फेसबुक की घोषणा से एक साल से अधिक समय पहले, वह अपना नाम मेटा में बदल देगा और अपने प्रमुख सोशल मीडिया प्लेटफॉर्म से अपना ध्यान अपने स्वयं के मेटावर्स की योजनाओं में स्थानांतरित कर देगा—वांग ने गैर-लाभकारी ओएसिस कंसोर्टियम, गेम फर्मों और ऑनलाइन कंपनियों का एक समूह लॉन्च किया। जो “एक नैतिक इंटरनेट की कल्पना करता है जहां भविष्य की पीढ़ियों को भरोसा है कि वे ऑनलाइन नफरत और विषाक्तता से बातचीत, सह-निर्माण और अस्तित्व में रह सकते हैं।”

कैसे? वांग सोचता है कि ओएसिस तकनीकी कंपनियों को स्व-विनियमन में मदद करके एक सुरक्षित, बेहतर मेटावर्स सुनिश्चित कर सकता है।

इस महीने की शुरुआत में, ओएसिस ने अपने उपयोगकर्ता सुरक्षा मानकों को जारी किया, दिशानिर्देशों का एक सेट जिसमें एक ट्रस्ट और सुरक्षा अधिकारी को काम पर रखना, सामग्री मॉडरेशन को नियोजित करना और विषाक्तता से लड़ने में नवीनतम शोध को एकीकृत करना शामिल है। कंसोर्टियम में शामिल होने वाली कंपनियां इन लक्ष्यों की दिशा में काम करने का संकल्प लेती हैं।

मैं वेब और मेटावर्स को एक नया विकल्प देना चाहता हूं, ”वांग कहते हैं, जिन्होंने पिछले 15 साल एआई और कंटेंट मॉडरेशन में काम करते हुए बिताए हैं। “अगर मेटावर्स जीवित रहने वाला है, तो उसमें सुरक्षा होनी चाहिए।”

वह सही है: प्रौद्योगिकी की सफलता यह सुनिश्चित करने की क्षमता से जुड़ी है कि उपयोगकर्ताओं को चोट न पहुंचे। लेकिन क्या हम वास्तव में भरोसा कर सकते हैं कि सिलिकॉन वैली की कंपनियां मेटावर्स में खुद को विनियमित करने में सक्षम होंगी?

एक सुरक्षित मेटावर्स के लिए एक blueprint

लेकिन ओएसिस की अधिकांश योजना आदर्शवादी बनी हुई है। एक उदाहरण उत्पीड़न और अभद्र भाषा का पता लगाने के लिए मशीन लर्निंग का उपयोग करने का प्रस्ताव है। पिछले साल, एआई मॉडल या तो अभद्र भाषा को फैलाने या आगे बढ़ने का बहुत अधिक मौका देते हैं। फिर भी, वांग ओएसिस के एआई को एक मॉडरेटिंग टूल के रूप में बढ़ावा देने का बचाव करता है। “AI उतना ही अच्छा है जितना डेटा मिलता है,” वह कहती हैं। “प्लेटफ़ॉर्म विभिन्न मॉडरेशन प्रथाओं को साझा करते हैं, लेकिन सभी बेहतर सटीकता, तेज प्रतिक्रिया और डिजाइन की रोकथाम द्वारा सुरक्षा की दिशा में काम करते हैं।”

दस्तावेज़ स्वयं सात पृष्ठ लंबा है और संघ के लिए भविष्य के लक्ष्यों की रूपरेखा तैयार करता है। इसमें से अधिकांश एक मिशन वक्तव्य की तरह पढ़ता है, और वांग का कहना है कि पहले कई महीनों का काम लक्ष्यों को बनाने में मदद करने के लिए सलाहकार समूह बनाने पर केंद्रित है।

योजना के अन्य तत्व, जैसे इसकी सामग्री मॉडरेशन रणनीति, अस्पष्ट हैं। वांग का कहना है कि वह चाहती हैं कि कंपनियां विभिन्न प्रकार के कंटेंट मॉडरेटर को नियुक्त करें ताकि वे रंग के लोगों और गैर-पुरुष के रूप में पहचान करने वालों के उत्पीड़न को समझ सकें और उनका मुकाबला कर सकें। लेकिन योजना इस लक्ष्य को प्राप्त करने की दिशा में कोई और कदम नहीं उठाती है।

कंसोर्टियम सदस्य कंपनियों से डेटा साझा करने की भी उम्मीद करेगा, जिस पर उपयोगकर्ता दुर्व्यवहार कर रहे हैं, जो दोहराने वाले अपराधियों की पहचान करने में महत्वपूर्ण है। वांग कहते हैं, भाग लेने वाली टेक कंपनियां सुरक्षा नीतियों को बनाने में मदद करने के लिए गैर-लाभकारी संस्थाओं, सरकारी एजेंसियों और कानून प्रवर्तन के साथ साझेदारी करेंगी। वह ओएसिस के लिए एक कानून प्रवर्तन प्रतिक्रिया टीम बनाने की भी योजना बना रही है, जिसका काम उत्पीड़न और दुर्व्यवहार के बारे में पुलिस को सूचित करना होगा। लेकिन यह अस्पष्ट रहता है कैसे कानून प्रवर्तन के साथ कार्य बल का कार्य यथास्थिति से भिन्न होगा।

गोपनीयता और सुरक्षा को संतुलित करना

ठोस विवरण की कमी के बावजूद, उन्हें लगता है कि कंसोर्टियम के मानक दस्तावेज़ एक अच्छा पहला कदम है, कम से कम “यह एक अच्छी बात है कि ओएसिस स्व-नियमन को देख रहा है, जो उन लोगों से शुरू होता है जो सिस्टम और उनकी सीमाओं को जानते हैं।

यह पहली बार नहीं है जब टेक कंपनियों ने इस तरह से एक साथ काम किया है। 2017 में, कुछ ने आतंकवाद से निपटने के लिए ग्लोबल इंटरनेट फोरम के साथ स्वतंत्र रूप से सूचनाओं का आदान-प्रदान करने पर सहमति व्यक्त की। आज, GIFCT स्वतंत्र बना हुआ है, और जो कंपनियाँ इस पर हस्ताक्षर करती हैं, वे स्व-विनियमन करती हैं।

मेलबर्न विश्वविद्यालय में स्कूल ऑफ कंप्यूटिंग एंड इंफॉर्मेशन सिस्टम्स के एक शोधकर्ता लुसी स्पैरो का कहना है कि ओएसिस के लिए जो चल रहा है वह यह है कि यह कंपनियों को काम करने के लिए कुछ प्रदान करता है, बजाय इसके कि वे स्वयं भाषा के साथ आने या प्रतीक्षा करने के लिए प्रतीक्षा करें। उस काम को करने के लिए एक तीसरा पक्ष।

स्पैरो कहते हैं कि शुरू से ही डिजाइन में नैतिकता को पकाना, जैसा कि ओएसिस जोर देता है, सराहनीय है और मल्टीप्लेयर गेम सिस्टम में उनके शोध से पता चलता है कि इससे फर्क पड़ता है। “नैतिकता को किनारे पर धकेल दिया जाता है, लेकिन यहाँ, वे [Oasis] शुरू से ही नैतिकता के बारे में सोच को प्रोत्साहित कर रहे हैं, ”वह कहती हैं।

लेकिन हेलर का कहना है कि नैतिक डिजाइन पर्याप्त नहीं हो सकता है। वह सुझाव देती है कि तकनीकी कंपनियां अपनी सेवा की शर्तों को फिर से लागू करती हैं, जिनकी कानूनी विशेषज्ञता के बिना उपभोक्ताओं का लाभ उठाने के लिए भारी आलोचना की गई है।

स्पैरो यह कहते हुए सहमत हैं कि उन्हें यह विश्वास करने में संकोच है कि तकनीकी कंपनियों का एक समूह उपभोक्ताओं के सर्वोत्तम हित में कार्य करेगा। “यह वास्तव में दो सवाल उठाती है,” वह कहती हैं। “एक, हम सुरक्षा को नियंत्रित करने के लिए पूंजी-संचालित निगमों पर कितना भरोसा करते हैं? और दूसरा, हम चाहते हैं कि टेक कंपनियों का हमारे आभासी जीवन पर कितना नियंत्रण हो?”

यह एक कठिन स्थिति है, खासकर क्योंकि उपयोगकर्ताओं को सुरक्षा और गोपनीयता दोनों का अधिकार है, लेकिन वे ज़रूरतें तनाव में हो सकती हैं।

 

 

Share on:

Leave a Comment