The problems with Elon Musk’s plan to open-source the Twitter algorithm


उदाहरण के लिए, यूके में सोशल मीडिया को नियंत्रित करने वाली ऑफकॉम की मुख्य कार्यकारी मेलानी डावेस, कहा है कि सोशल मीडिया प्लेटफॉर्म्स को यह बताना होगा कि उनका कोड कैसे काम करता है। और यूरोपीय संघ द्वारा हाल ही में पारित डिजिटल सेवा अधिनियम, 23 अप्रैल को सहमत, इसी तरह प्लेटफार्मों को अधिक पारदर्शिता प्रदान करने के लिए बाध्य करेगा। अमेरिका में, डेमोक्रेटिक सीनेटरों ने पेश किया एल्गोरिथम जवाबदेही अधिनियम के लिए प्रस्ताव फरवरी 2022 में। उनका लक्ष्य नई पारदर्शिता और एल्गोरिदम की निगरानी करना है जो हमारी समय-सारिणी और समाचार फ़ीड को नियंत्रित करता है, और इसके अलावा भी बहुत कुछ।

ट्विटर के एल्गोरिदम को दूसरों के लिए दृश्यमान होने और प्रतिस्पर्धियों द्वारा अनुकूलनीय होने की अनुमति देने का सैद्धांतिक रूप से मतलब है कि कोई ट्विटर के स्रोत कोड की प्रतिलिपि बना सकता है और एक रीब्रांडेड संस्करण जारी कर सकता है। इंटरनेट के बड़े हिस्से ओपन सोर्स सॉफ्टवेयर पर चलते हैं-सबसे प्रसिद्ध ओपनएसएसएलवेब के बड़े हिस्से द्वारा उपयोग किया जाने वाला एक सुरक्षा टूलकिट, जिसे 2014 में एक प्रमुख सुरक्षा उल्लंघन का सामना करना पड़ा।

ओपन-सोर्स सोशल नेटवर्क्स के उदाहरण पहले से ही हैं। मास्टोडन, एक माइक्रोब्लॉगिंग प्लेटफॉर्म जिसे ट्विटर की प्रमुख स्थिति के बारे में चिंताओं के बाद स्थापित किया गया था, उपयोगकर्ताओं को इसके कोड का निरीक्षण करने की अनुमति देता है, जो है सॉफ्टवेयर रिपॉजिटरी GitHub पर पोस्ट किया गया.

लेकिन एल्गोरिथम के पीछे के कोड को देखने से यह जरूरी नहीं है कि यह आपको बताता है कि यह कैसे काम करता है, और यह निश्चित रूप से औसत व्यक्ति को इसके निर्माण में जाने वाली व्यावसायिक संरचनाओं और प्रक्रियाओं के बारे में अधिक जानकारी नहीं देता है।

किंग्स कॉलेज लंदन में महत्वपूर्ण बुनियादी ढांचे के अध्ययन के एक वरिष्ठ व्याख्याता जोनाथन ग्रे कहते हैं, “यह केवल आनुवंशिक सामग्री के साथ प्राचीन जीवों को समझने की कोशिश करने जैसा है।” “यह हमें कुछ नहीं से ज्यादा बताता है, लेकिन यह कहना एक खिंचाव होगा कि हम जानते हैं कि वे कैसे रहते हैं।”

ट्विटर को नियंत्रित करने वाला एक भी एल्गोरिदम नहीं है। यूके में डी मोंटफोर्ट विश्वविद्यालय में कंप्यूटिंग और सामाजिक जिम्मेदारी पर शोध करने वाली कैथरीन फ्लिक कहती हैं, “उनमें से कुछ यह निर्धारित करेंगे कि लोग अपनी समयसीमा पर रुझानों, या सामग्री के संदर्भ में क्या देखते हैं, या निम्नलिखित सुझाव देते हैं।” जिन एल्गोरिदम में लोगों की मुख्य रूप से दिलचस्पी होगी, वे हैं जो नियंत्रित करते हैं कि उपयोगकर्ता की समय-सारिणी में कौन सी सामग्री दिखाई देती है, लेकिन वह भी प्रशिक्षण डेटा के बिना बेहद उपयोगी नहीं होगी।

“ज्यादातर समय जब लोग एल्गोरिथम जवाबदेही के बारे में बात करते हैं, तो हम मानते हैं कि एल्गोरिदम स्वयं जरूरी नहीं हैं जो हम देखना चाहते हैं – हम वास्तव में क्या चाहते हैं कि वे कैसे विकसित हुए थे,” जेनिफर कोबे कहते हैं, एक पोस्टडॉक्टरल शोध कैम्ब्रिज विश्वविद्यालय में सहयोगी। यह बड़े हिस्से में उन चिंताओं के कारण है जो एआई एल्गोरिदम कर सकते हैं मानवीय पूर्वाग्रहों को कायम रखना डेटा में उन्हें प्रशिक्षित करने के लिए इस्तेमाल किया। एल्गोरिदम कौन विकसित करता है, और वे किस डेटा का उपयोग करते हैंउनके द्वारा थूके जाने वाले परिणामों में सार्थक अंतर ला सकते हैं।

कोबे के लिए, जोखिम संभावित लाभों से अधिक हैं। कंप्यूटर कोड हमें इस बात की कोई जानकारी नहीं देता है कि एल्गोरिदम को कैसे प्रशिक्षित या परीक्षण किया गया था, उनमें कौन से कारक या विचार शामिल थे, या प्रक्रिया में किस तरह की चीजों को प्राथमिकता दी गई थी, इसलिए ओपन-सोर्सिंग से पारदर्शिता में सार्थक अंतर नहीं हो सकता है ट्विटर पर। इस बीच, यह कुछ महत्वपूर्ण सुरक्षा जोखिम पेश कर सकता है।

कंपनियां अक्सर प्रभाव आकलन प्रकाशित करती हैं जो कमजोरियों और खामियों को उजागर करने के लिए उनकी डेटा सुरक्षा प्रणालियों की जांच और परीक्षण करती हैं। जब वे खोजे जाते हैं, तो वे ठीक हो जाते हैं, लेकिन सुरक्षा जोखिमों को रोकने के लिए डेटा को अक्सर संशोधित किया जाता है। ओपन-सोर्सिंग ट्विटर के एल्गोरिदम वेबसाइट के पूरे कोड बेस को सभी के लिए सुलभ बना देंगे, संभावित रूप से खराब अभिनेताओं को सॉफ़्टवेयर पर ध्यान देने और शोषण करने के लिए कमजोरियों को खोजने की इजाजत देता है।

“मैं एक पल के लिए भी विश्वास नहीं करता कि एलोन मस्क ट्विटर के सभी बुनियादी ढांचे और सुरक्षा पक्ष को ओपन-सोर्सिंग कर रहे हैं,” डी मोंटफोर्ट विश्वविद्यालय में साइबर सुरक्षा के प्रोफेसर एर्के बोइटेन कहते हैं।



Source link

Share on:

Leave a Comment