उत्पीड़न प्रबंधक: यहां बताया गया है कि Google कैसे Twitter पर ऑनलाइन दुरुपयोग को रोकना चाहता है

Google की आरा इकाई ने ट्विटर पर उन पर लक्षित ऑनलाइन दुर्व्यवहार को रोकने के लिए उपयोगकर्ताओं, विशेष रूप से पत्रकारों के लिए उत्पीड़न प्रबंधक नामक एक नए ओपन सोर्स टूल की घोषणा की है। आरा के एक हालिया शोध से पता चला है कि सामान्य रूप से महिलाओं और विशेष रूप से महिला पत्रकारों को ऑनलाइन दुर्व्यवहार का सबसे अधिक खतरा होता है। 70 प्रतिशत से अधिक महिला पत्रकारों को ऑनलाइन धमकियाँ और उत्पीड़न मिलता है, और उनमें से 40 प्रतिशत से अधिक महिला पत्रकारों ने एक कहानी की रिपोर्ट करना बंद कर दिया है।

आरा के अनुसार, उत्पीड़न प्रबंधक ट्विटर के एपीआई से जुड़ा एक कंप्यूटर सॉफ्टवेयर है जो उपयोगकर्ताओं को उनके द्वारा प्राप्त दुर्भावनापूर्ण और अश्लील ट्वीट्स को दस्तावेज़, छिपाने और ब्लॉक करने में मदद करेगा, जो कि अल्फाबेट इंक के Google के स्वामित्व में है। ओपन सोर्स टूल उपयोगकर्ताओं को विश्वसनीय पार्टियों के साथ हानिकारक टिप्पणियों की समीक्षा करने, क्रमबद्ध करने और निर्यात करने की अनुमति देगा, साथ ही अपराधियों को म्यूट या ब्लॉक करने और ट्वीट्स के जवाब छिपाने की अनुमति देगा।

अनुकूलित टूल सेट करने के लिए आपको Twitter डेटा लाने के लिए Twitter API, शीट में डेटा निर्यात करने के लिए Google शीट API, “विषाक्त” टिप्पणियों की पहचान करने के लिए Perspective API और प्रमाणीकरण और डेटा संग्रहण के लिए Firebase की आवश्यकता होती है। आरा का पर्सपेक्टिव एपीआई “विषाक्त” भाषा की पहचान करने के लिए मशीन लर्निंग का उपयोग करता है।

Google के अनुसार, विषाक्तता को ऐसी भाषा के रूप में परिभाषित किया गया है जो असभ्य, अपमानजनक या किसी को बातचीत छोड़ने की संभावना है।

उत्पीड़न प्रबंधक का उपयोग करने वाले उपयोगकर्ताओं के पास अपने नियोक्ताओं, कानून प्रवर्तन या अन्य के साथ साझा करने के लिए उत्पीड़न की रिपोर्ट संकलित करने का विकल्प भी होगा, और यहां तक ​​कि टिप्पणियों को छिपाने और उपयोगकर्ताओं को ब्लॉक करने का भी विकल्प होगा।

“हम यह सुनिश्चित करना चाहते हैं कि ट्विटर पर हर किसी के पास हमारी सेवा पर अपने अनुभव को नियंत्रित करने के लिए आवश्यक टूल हों। डेवलपर नवाचार दुनिया भर के लोगों की विशिष्ट आवश्यकताओं और प्राथमिकताओं को संबोधित करने वाले टूल का निर्माण करके सार्वजनिक बातचीत को सुरक्षित रखने के लिए हमारी टीमों द्वारा किए जा रहे कार्य के प्रभाव को बढ़ाता है। आरा के साथ यह सहयोग एनजीओ और अन्य पारिस्थितिक तंत्र भागीदारों को ट्विटर एपीआई का लाभ उठाने में सक्षम बनाता है ताकि वे उन समुदायों के लिए मूल्यवान उपकरण तैयार कर सकें, जो ट्विटर के डेवलपर प्लेटफॉर्म के लिए बिजनेस डेवलपमेंट के निदेशक एरियल श्वार्ट्ज ने कहा।

वर्तमान में, यह टूल Thomson Reuters Foundation के साथ काम करने वाले पत्रकारों द्वारा Twitter पर उपयोग के लिए उपलब्ध होगा।

आरा ने एक प्रेस विज्ञप्ति में उल्लेख किया कि इसकी टीम ने ट्विटर एपीआई का उपयोग करते हुए उत्पीड़न प्रबंधक बनाने के लिए पूरे विकास चक्र में पत्रकारों और कार्यकर्ताओं के साथ काम किया।

इस प्रयास में पत्रकारिता और मानवाधिकार के क्षेत्र में कई गैर सरकारी संगठनों के साथ सहयोग भी शामिल है, जिसमें अनुच्छेद 19, अफ्रीका के लिए कोड, यूरोपीय महिला लॉबी, नारीवादी इंटरनेट, गड़बड़, पत्रकारों के लिए अंतर्राष्ट्रीय केंद्र (ICFJ), ऑनलाइन SOS, प्रतिमान पहल, PEN अमेरिका शामिल हैं। , राइट टू बी (पूर्व में होलाबैक!), और अन्य, अपने समुदाय की जरूरतों के बारे में अपने दृष्टिकोण को शामिल करने के लिए।