Google बताता है कि मानचित्र पर समीक्षाओं की जांच कैसे की जाती है

Google ने एक विस्तृत ब्लॉग पोस्ट में अपनी मैप्स सेवा पर समीक्षाओं को ठीक से बताया है, इस बात पर जोर देते हुए कि “अनुचित सामग्री को रोकने के लिए बहुत काम पर्दे के पीछे किया जाता है।” ब्लॉग पोस्ट स्पष्ट रूप से बताता है कि क्या होता है जब कोई उपयोगकर्ता किसी व्यवसाय के लिए एक समीक्षा पोस्ट करता है जैसे कि एक रेस्तरां या एक स्थानीय दुकान मानचित्र पर। इसने उन उपायों को रेखांकित किया है जो यह सुनिश्चित करने के लिए उठाए गए हैं कि नकली, अपमानजनक समीक्षाएं न बढ़ें। पूर्व में, Google ने यह भी बताया है कि YouTube पर अनुशंसाएं कैसे कार्य करती हैं।

पोस्ट को इयान लीडर, ग्रुप प्रोडक्ट मैनेजर, यूजर जेनरेटेड कंटेंट, गूगल ने लिखा है। लीडर ने लिखा, “एक बार नीति लिखे जाने के बाद, यह हमारे ऑपरेटरों और मशीन लर्निंग एल्गोरिदम दोनों के लिए प्रशिक्षण सामग्री में बदल जाती है – हमारी टीमों को नीति-उल्लंघन करने वाली सामग्री को पकड़ने और अंततः Google समीक्षाओं को सहायक और प्रामाणिक बनाए रखने में मदद करने के लिए।”

कंपनी के अनुसार, जैसे ही कोई समीक्षा लिखी और पोस्ट की जाती है, यह सुनिश्चित करने के लिए कंपनी के “मॉडरेशन सिस्टम” को भेजा जाता है कि कोई नीति उल्लंघन तो नहीं हुआ है। Google मशीन-लर्निंग बेस सिस्टम और मानव समीक्षक दोनों पर निर्भर करता है ताकि वे प्राप्त होने वाली समीक्षाओं की मात्रा को संभाल सकें।

स्वचालित सिस्टम “रक्षा की पहली पंक्ति हैं क्योंकि वे पैटर्न की पहचान करने में अच्छे हैं,” ब्लॉग पोस्ट बताते हैं। ये सिस्टम नकली, कपटपूर्ण सामग्री को इंगित करने के लिए संकेतों की तलाश करते हैं और लाइव होने से पहले ही इसे हटा देते हैं। स्वचालित सिस्टम जिन संकेतों की तलाश करते हैं, उनमें यह शामिल है कि सामग्री में आपत्तिजनक या विषय से परे कुछ भी है या नहीं, और यदि इसे पोस्ट करने वाले Google खाते का अतीत में संदिग्ध व्यवहार का कोई इतिहास रहा है।

वे उस स्थान को भी देखते हैं जिसके बारे में समीक्षा पोस्ट की जा रही है। नेता बताते हैं कि यह महत्वपूर्ण है, क्योंकि अगर “थोड़े समय में समीक्षाओं की प्रचुरता” रही है, तो यह नकली समीक्षाओं को पोस्ट किए जाने का संकेत दे सकता है। एक और परिदृश्य यह है कि यदि समाचार या सोशल मीडिया में प्रश्न वाले स्थान पर कोई ध्यान दिया गया है, जो लोगों को “धोखाधड़ी समीक्षा छोड़ने” के लिए प्रोत्साहित कर सकता है।

हालांकि, प्रशिक्षण मशीनों को भी नाजुक संतुलन बनाए रखने की आवश्यकता होती है। दिया गया एक उदाहरण समलैंगिक शब्द का उपयोग है, जो अपमानजनक प्रकृति का है और Google समीक्षाओं में इसकी अनुमति नहीं है। लेकिन लीडर बताते हैं कि यदि Google अपने “मशीन लर्निंग मॉडल्स को सिखाता है कि इसका उपयोग केवल अभद्र भाषा में किया जाता है, तो हम गलती से उन समीक्षाओं को हटा सकते हैं जो एक समलैंगिक व्यवसाय के स्वामी या LGBTQ+ सुरक्षित स्थान को बढ़ावा देती हैं।”

इसलिए Google के पास “मानव ऑपरेटर” हैं जो “नियमित रूप से गुणवत्ता परीक्षण चलाते हैं और मशीन सीखने के मॉडल से पूर्वाग्रह को दूर करने के लिए अतिरिक्त प्रशिक्षण पूरा करते हैं।”

यदि सिस्टम को “कोई नीति उल्लंघन नहीं मिलता है, तो समीक्षा कुछ ही सेकंड में लाइव हो जाती है।” हालाँकि, Google का दावा है कि समीक्षा के लाइव होने के बाद भी उनके सिस्टम “योगदान की गई सामग्री का विश्लेषण करना और संदिग्ध पैटर्न को देखना जारी रखते हैं।”

ब्लॉग के अनुसार, ये “पैटर्न कुछ भी हो सकते हैं, जैसे कि बिजनेस प्रोफाइल के एक ही क्लस्टर पर समीक्षा छोड़ने वाले लोगों के समूह से लेकर किसी व्यवसाय या स्थान पर कम समय में असामान्य रूप से उच्च संख्या में 1 या 5-स्टार समीक्षा प्राप्त करना,” ब्लॉग के अनुसार।

टीम “संभावित दुरुपयोग जोखिमों की पहचान करने के लिए सक्रिय रूप से काम करती है, जिससे सफल दुरुपयोग हमलों की संभावना कम हो जाती है।” उदाहरणों में शामिल हैं कि क्या कोई आगामी कार्यक्रम है जैसे चुनाव। कंपनी तब घटना और अन्य आस-पास के व्यवसायों से जुड़े स्थानों के लिए “उन्नत सुरक्षा” रखती है। फिर से, यह “इन स्थानों और व्यवसायों की निगरानी तब तक करेगा जब तक कि दुरुपयोग का जोखिम कम नहीं हो जाता।”