एक पिता ने डॉक्टर के लिए अपने नग्न बच्चे की तस्वीरें लीं। Google ने उन्हें अपराधी के रूप में चिह्नित किया

मार्क ने अपने बच्चे के साथ कुछ गलत देखा। उनके बेटे का लिंग सूजा हुआ लग रहा था और उन्हें दर्द हो रहा था। सैन फ़्रांसिस्को में घर पर रहने वाले पिता मार्क ने अपना एंड्रॉइड स्मार्टफोन पकड़ा और समस्या का दस्तावेजीकरण करने के लिए तस्वीरें लीं ताकि वह इसकी प्रगति को ट्रैक कर सके।

फरवरी 2021 में शुक्रवार की रात थी। उनकी पत्नी ने अपने स्वास्थ्य देखभाल प्रदाता को वीडियो द्वारा अगली सुबह के लिए एक आपातकालीन परामर्श निर्धारित करने के लिए बुलाया क्योंकि यह शनिवार था और एक महामारी चल रही थी। एक नर्स ने तस्वीरें भेजने के लिए कहा ताकि डॉक्टर पहले से उनकी समीक्षा कर सकें।

मार्क की पत्नी ने अपने पति का फोन पकड़ा और अपने बेटे के ग्रोइन एरिया के कुछ क्लोज-अप को अपने आईफोन पर टेक्स्ट किया ताकि वह उन्हें स्वास्थ्य देखभाल प्रदाता के मैसेजिंग सिस्टम पर अपलोड कर सके।

इस प्रकरण में मार्क को एक दशक से अधिक के संपर्क, ईमेल और फोटो खर्च हुए, और उसे पुलिस जांच का लक्ष्य बना दिया। मार्क, जिसने संभावित प्रतिष्ठा के नुकसान के डर से केवल अपने पहले नाम से पहचाने जाने के लिए कहा था, बाल यौन शोषण सामग्री का आदान-प्रदान करने वाले लोगों को फंसाने के लिए डिज़ाइन किए गए एक एल्गोरिथम जाल में पकड़ा गया था।

क्योंकि प्रौद्योगिकी कंपनियां इतना अधिक डेटा कैप्चर करती हैं, उन पर यह जांचने के लिए दबाव डाला गया है कि आपराधिक व्यवहार का पता लगाने और उन्हें रोकने के लिए उनके सर्वर से क्या गुजरता है। बाल अधिवक्ताओं का कहना है कि यौन शोषण इमेजरी के ऑनलाइन प्रसार से निपटने के लिए कंपनियों का सहयोग आवश्यक है। लेकिन यह उन निजी अभिलेखागारों में झाँकने को मजबूर कर सकता है जिन्होंने कम से कम दो मामलों में निर्दोष व्यवहार को एक भयावह रोशनी में डाला है न्यूयॉर्क टाइम्स ने खुलासा किया है।

एक डिजिटल नागरिक स्वतंत्रता संगठन, इलेक्ट्रॉनिक फ्रंटियर फाउंडेशन के एक प्रौद्योगिकीविद् जॉन कैलास ने केस कैनरी को “इस विशेष कोयला खदान में” कहा।

मध्य-युग में एक जीमेल खाता स्थापित करने के बाद, मार्क, जो अपने 40 के दशक में है, Google पर बहुत अधिक भरोसा करने लगा। उनके एंड्रॉइड स्मार्टफोन कैमरे ने उनकी तस्वीरों और वीडियो को Google क्लाउड पर बैक अप लिया। उनके पास Google Fi के साथ एक फ़ोन प्लान था।

मार्क, जिन्होंने संभावित प्रतिष्ठा के नुकसान के डर से केवल अपने पहले नाम से पहचाने जाने के लिए कहा, 6 अगस्त, 2022 को सैन फ्रांसिस्को, कैलिफ़ोर्निया में अपने बेटे के साथ। Google के पास बच्चों की अपमानजनक छवियों का पता लगाने के लिए एक स्वचालित टूल है लेकिन सिस्टम कर सकता है इसे गलत समझें, और परिणाम गंभीर हैं। (छवि क्रेडिट: आरोन वोजैक / द न्यूयॉर्क टाइम्स)

अपने बेटे की तस्वीरें लेने के दो दिन बाद, मार्क के फोन ने एक सूचना शोर मचाया: उसका खाता “हानिकारक सामग्री” के कारण अक्षम कर दिया गया था जो “Google की नीतियों का गंभीर उल्लंघन था और अवैध हो सकता है।” एक “अधिक जानें” लिंक ने संभावित कारणों की एक सूची का नेतृत्व किया, जिसमें “बाल यौन शोषण और शोषण” शामिल है।

मार्क पहले तो भ्रमित था लेकिन फिर उसे अपने बेटे के संक्रमण की याद आई। “ओह, गॉड, Google शायद सोचता है कि यह चाइल्ड पोर्न था,” उसने सोचा।

उन्होंने अपने बेटे के संक्रमण की व्याख्या करते हुए, Google के निर्णय की समीक्षा का अनुरोध करते हुए एक फॉर्म भरा। उसी समय, उन्होंने Google की अस्वीकृति के डोमिनोज़ प्रभाव की खोज की। न केवल उसने ईमेल खो दिए, दोस्तों और पूर्व सहयोगियों के लिए संपर्क जानकारी, और अपने बेटे के जीवन के पहले वर्षों के दस्तावेज़ीकरण, उसका Google Fi खाता बंद कर दिया, जिसका अर्थ है कि उसे किसी अन्य वाहक के साथ एक नया फ़ोन नंबर प्राप्त करना था। अपने पुराने फ़ोन नंबर और ईमेल पते तक पहुंच के बिना, उन्हें अन्य इंटरनेट खातों में साइन इन करने के लिए आवश्यक सुरक्षा कोड नहीं मिल सके, जिससे उनका अधिकांश डिजिटल जीवन बंद हो गया।

Google ने एक बयान में कहा, “बाल यौन शोषण सामग्री घृणित है, और हम अपने प्लेटफॉर्म पर इसे फैलने से रोकने के लिए प्रतिबद्ध हैं।”

मार्क द्वारा अपील दायर करने के कुछ दिनों बाद, Google ने जवाब दिया कि वह खाते को बहाल नहीं करेगा, और कोई स्पष्टीकरण नहीं दिया जाएगा।

मार्क, जिसने 6 अगस्त, 2022 को सैन फ़्रांसिस्को, कैलिफ़ोर्निया में संभावित प्रतिष्ठा हानि के डर से केवल अपने पहले नाम से पहचाने जाने के लिए कहा था। एक पुलिस अन्वेषक मार्क से संपर्क करने में असमर्थ था क्योंकि उसका Google Fi फ़ोन नंबर नं. लंबे समय तक काम किया। (छवि क्रेडिट: आरोन वोजैक / द न्यूयॉर्क टाइम्स)

जिस दिन मार्क की मुसीबतें शुरू हुईं, उसी दिन टेक्सास में भी यही नजारा चल रहा था। ह्यूस्टन में एक बच्चे को उसके “अंतरंग भागों” में संक्रमण था, उसके पिता ने एक ऑनलाइन पोस्ट में लिखा था कि मार्क की कहानी की रिपोर्ट करते समय मैं ठोकर खाई। बाल रोग विशेषज्ञ के अनुरोध पर, कैसियो, जिसने केवल अपने पहले नाम से पहचाने जाने के लिए कहा, ने फ़ोटो लेने के लिए एक Android का उपयोग किया, जिसका Google फ़ोटो में स्वचालित रूप से बैकअप लिया गया था। फिर उसने उन्हें Google की चैट सेवा के माध्यम से अपनी पत्नी के पास भेज दिया।

कैसियो घर खरीदने के बीच में था कि उसका जीमेल अकाउंट डिसेबल हो गया। उसने अपने बंधक दलाल को अपना ईमेल पता बदलने के लिए कहा, जिसने दलाल को तब तक संदेहास्पद बना दिया जब तक कि कैसियो के रियल एस्टेट एजेंट ने उसकी पुष्टि नहीं की।

“यह एक सिरदर्द था,” कैसियो ने कहा।

तथाकथित बाल पोर्नोग्राफ़ी के विशाल ऑनलाइन आदान-प्रदान को गंभीर रूप से बाधित करने के लिए तकनीकी उद्योग का पहला उपकरण फोटोडीएनए था, जो दुरुपयोग की ज्ञात छवियों का एक डेटाबेस था, जिसे अद्वितीय डिजिटल कोड में परिवर्तित किया गया था; यह एक मैच का पता लगाने के लिए बड़ी संख्या में छवियों के माध्यम से जल्दी से कंघी करने के लिए इस्तेमाल किया जा सकता है, भले ही एक तस्वीर को छोटे तरीकों से बदल दिया गया हो। 2009 में Microsoft द्वारा PhotoDNA जारी करने के बाद, Facebook और अन्य तकनीकी कंपनियों ने इसका उपयोग अवैध और हानिकारक इमेजरी प्रसारित करने वाले उपयोगकर्ताओं को जड़ से खत्म करने के लिए किया।

2018 में एक बड़ी सफलता मिली, जब Google ने कृत्रिम रूप से बुद्धिमान उपकरण विकसित किया जो बच्चों की पहले कभी नहीं देखी गई शोषक छवियों को पहचान सकता है। इसका मतलब है कि न केवल दुर्व्यवहार करने वाले बच्चों की ज्ञात छवियों को ढूंढना बल्कि अज्ञात पीड़ितों की छवियां जिन्हें संभावित रूप से अधिकारियों द्वारा बचाया जा सकता था। Google ने अपनी तकनीक को Facebook सहित अन्य कंपनियों के लिए उपलब्ध कराया।

जब मार्क और कैसियो की तस्वीरें उनके फोन से Google के सर्वर पर स्वचालित रूप से अपलोड हो गईं, तो इस तकनीक ने उन्हें झंडी दिखा दी। Google के एक प्रवक्ता ने कहा कि कंपनी केवल तभी स्कैन करती है जब उपयोगकर्ता द्वारा “सकारात्मक कार्रवाई” की जाती है; इसमें शामिल है जब उपयोगकर्ता का फ़ोन कंपनी के क्लाउड पर फ़ोटो का बैक अप लेता है।

Google के लिए एक मानव सामग्री मॉडरेटर ने एआई द्वारा फ़्लैग किए जाने के बाद तस्वीरों की समीक्षा की होगी ताकि यह पुष्टि हो सके कि वे बाल यौन शोषण सामग्री की संघीय परिभाषा को पूरा करते हैं। जब Google ऐसी खोज करता है, तो वह उपयोगकर्ता के खाते को लॉक कर देता है, अन्य शोषणकारी सामग्री की खोज करता है और, जैसा कि संघीय कानून द्वारा आवश्यक है, नेशनल सेंटर फॉर मिसिंग एंड एक्सप्लॉइटेड चिल्ड्रेन में साइबर टिपलाइन को रिपोर्ट करता है।

2021 में, साइबर टिपलाइन ने बताया कि उसने अधिकारियों को “4,260 से अधिक संभावित नए बाल पीड़ितों” के लिए सतर्क किया था। उनमें मरकुस और कैसियो के पुत्र गिने गए।

दिसंबर में, मार्क को सैन फ्रांसिस्को पुलिस विभाग से मेल में एक लिफाफा मिला। इसमें एक पत्र था जिसमें उन्हें सूचित किया गया था कि उनकी जांच की गई थी और साथ ही Google और उनके इंटरनेट सेवा प्रदाता पर दिए गए खोज वारंट की प्रतियां भी थीं। एक अन्वेषक ने मार्क के Google खाते में सब कुछ मांगा था: उसकी इंटरनेट खोज, उसका स्थान इतिहास, उसके संदेश और कोई भी दस्तावेज़, फोटो और वीडियो जो उसने कंपनी के पास संग्रहीत किया था।

“बाल शोषण वीडियो” से संबंधित खोज, फरवरी में अपने बेटे की तस्वीरें लेने के एक सप्ताह के भीतर हुई थी।

मार्क ने अन्वेषक निकोलस हिलार्ड को बुलाया, जिन्होंने कहा कि मामला बंद हो गया था। हिलार्ड ने मार्क से संपर्क करने की कोशिश की थी, लेकिन उनका फोन नंबर और ईमेल पता काम नहीं कर रहा था।

हिलार्ड ने अपनी रिपोर्ट में लिखा, “मैंने निर्धारित किया कि घटना अपराध के तत्वों से मेल नहीं खाती और कोई अपराध नहीं हुआ।”

मार्क ने पुलिस रिपोर्ट प्रदान करते हुए फिर से Google से अपने मामले की अपील की, लेकिन कोई फायदा नहीं हुआ।

कैसियो से भी पुलिस ने पूछताछ की। ह्यूस्टन पुलिस विभाग के एक जासूस ने इस पिछले पतन को स्टेशन में आने के लिए कहा।

कैसियो द्वारा जासूस को बाल रोग विशेषज्ञ के साथ अपना संचार दिखाने के बाद, उसे जल्दी से साफ़ कर दिया गया। लेकिन वह भी, Google की वेब सेवाओं का भुगतान करने वाला उपयोगकर्ता होने के बावजूद, अपने दशक पुराने Google खाते को वापस पाने में असमर्थ था।

नग्न बच्चों की सभी तस्वीरें अश्लील, शोषक या अपमानजनक नहीं होती हैं। उत्तरी कैरोलिना विश्वविद्यालय में कानून के प्रोफेसर कैरिसा बायर्न हेसिक, जो बाल अश्लीलता अपराधों के बारे में लिखते हैं, ने कहा कि कानूनी रूप से परिभाषित करना कि यौन दुर्व्यवहार इमेजरी क्या जटिल हो सकती है।

लेकिन हेसिक ने कहा कि वह पुलिस की इस बात से सहमत हैं कि मेडिकल इमेज के लिए उपयुक्त नहीं है। “बच्चे के साथ कोई दुर्व्यवहार नहीं है,” उसने कहा। “यह गैर-यौन कारणों से लिया गया है।”

मैंने वे तस्वीरें देखी हैं जो मार्क ने अपने बेटे की ली थीं। उन्हें फ़्लैग करने का निर्णय समझ में आता था: वे एक बच्चे के जननांग की स्पष्ट तस्वीरें हैं। लेकिन संदर्भ मायने रखता है: उन्हें एक बीमार बच्चे के बारे में चिंतित माता-पिता ने लिया था।

“हम मानते हैं कि टेलीमेडिसिन और विशेष रूप से COVID के युग में, माता-पिता के लिए निदान प्राप्त करने के लिए अपने बच्चों की तस्वीरें लेना आवश्यक हो गया है,” Google के बाल सुरक्षा संचालन के प्रमुख क्लेयर लिली ने कहा। उसने कहा, कंपनी ने बाल रोग विशेषज्ञों से परामर्श किया है, ताकि उसके मानव समीक्षक संभावित स्थितियों को समझ सकें जो चिकित्सा कारणों से ली गई तस्वीरों में दिखाई दे सकती हैं।

मार्क, जिन्होंने संभावित प्रतिष्ठा के नुकसान के डर से केवल अपने पहले नाम से पहचाने जाने के लिए कहा, 6 अगस्त, 2022 को सैन फ्रांसिस्को, कैलिफ़ोर्निया में अपने बेटे के साथ। (छवि क्रेडिट: हारून वोजैक / द न्यूयॉर्क टाइम्स)

कैसियो को इस साल की शुरुआत में एक ग्राहक सहायता प्रतिनिधि ने बताया था कि Google Hangouts का उपयोग करके अपनी पत्नी को तस्वीरें भेजने से चैट सेवा की सेवा की शर्तों का उल्लंघन होता है।

जहां तक ​​मार्क का सवाल है, Google में लिली ने कहा कि समीक्षकों ने उनके द्वारा ली गई तस्वीरों में दाने या लालिमा का पता नहीं लगाया था और उनके खाते की बाद की समीक्षा में छह महीने पहले का एक वीडियो सामने आया था जिसे Google ने भी एक छोटे बच्चे के लिए समस्याग्रस्त माना था। एक बिना कपड़े वाली महिला के साथ बिस्तर पर लेटा हुआ।

मार्क को यह वीडियो याद नहीं था और अब इसकी पहुंच नहीं थी, लेकिन उन्होंने कहा कि यह एक निजी क्षण की तरह लग रहा था जिसे वह कैप्चर करने के लिए प्रेरित किया गया होगा, यह महसूस नहीं कर रहा था कि इसे कभी भी किसी और के द्वारा देखा या आंका जाएगा।

“मुझे इसका अनुमान है। हम एक सुबह उठे। यह मेरी पत्नी और बेटे के साथ एक खूबसूरत दिन था, और मैं उस पल को रिकॉर्ड करना चाहता था, ”मार्क ने कहा। “अगर हम केवल पजामा पहनकर सोते, तो इस सब से बचा जा सकता था।”

Google के एक प्रवक्ता ने कहा कि कंपनी अपने फैसलों पर कायम है, भले ही कानून प्रवर्तन ने दो लोगों को मंजूरी दे दी हो।

यह लेख मूल रूप से द न्यूयॉर्क टाइम्स में छपा था।