Google ने Android Messages ऐप में अपनी “संवेदनशील सामग्री चेतावनी” सुविधा को सक्षम करना शुरू कर दिया है, जिसकी विस्तृत जानकारी अक्टूबर 2024 में दी गई थी। यह सिस्टम उपयोगकर्ता के उपकरणों पर स्थानीय रूप से चलने वाले आर्टिफिशियल इंटेलिजेंस का उपयोग करता है ताकि छवियों में संभावित नग्नता का पता लगाया जा सके, उन्हें स्वचालित रूप से धुंधला किया जा सके और सामग्री प्रदर्शित या भेजे जाने से पहले प्राप्तकर्ता और प्रेषक दोनों को नियंत्रण प्रदान किया जा सके।
यह रोलआउट उस विकास का चरमोत्कर्ष है जिसके बैकएंड घटकों को महीनों पहले वितरित किया गया था, और यह हानिकारक ऑनलाइन सामग्री और बढ़ते AI-संचालित साइबर खतरों से निपटने के व्यापक उद्योग प्रयासों के बीच आया है।
यह सुविधा ऐप के भीतर संभावित रूप से अश्लील छवियों को संभालने के लिए एक दो-आयामी दृष्टिकोण प्रस्तुत करती है, जो पारंपरिक SMS/MMS के साथ-साथ आधुनिक रिच कम्युनिकेशन सर्विसेज (RCS) मैसेजिंग का समर्थन करती है। जब कोई आने वाली तस्वीर ऑन-डिवाइस AI द्वारा फ़्लैग की जाती है, तो वह बातचीत में धुंधली दिखाई देती है। प्राप्तकर्ता को ऐसी सामग्री से जुड़े संभावित नुकसानों के बारे में अधिक जानने या प्रेषक को ब्लॉक करने के विकल्प दिखाई देते हैं।
9to5Google के अनुसार, आगे बढ़ने के लिए, उन्हें “अगला” पर टैप करना होगा, फिर “नहीं, न देखें” या “हाँ, देखें” में से चुनना होगा। अगर तस्वीर देख ली जाती है, तो “पूर्वावलोकन हटाएँ” और तस्वीर को फिर से धुंधला करने का विकल्प बचता है। एक समानांतर चेतावनी प्रणाली उन उपयोगकर्ताओं को, जो संभावित नग्नता वाली तस्वीर *भेज* रहे हैं, पुनर्विचार करने की सलाह देती है।
तस्वीर भेजने के लिए, उन्हें “अगला” पर टैप करना होगा और फिर “हाँ, भेजें” पर स्वाइप करके स्पष्ट रूप से पुष्टि करनी होगी, या “नहीं, न भेजें” चुनकर रद्द करना होगा। फ़िलहाल, यह पहचान केवल तस्वीरों पर लागू होती है और अभी तक वीडियो का विश्लेषण नहीं करती है।
ऑन-डिवाइस प्रोसेसिंग और गोपनीयता आश्वासन
इस सुविधा के डिज़ाइन का मुख्य आकर्षण उपयोगकर्ता की गोपनीयता बनाए रखने के लिए स्थानीय प्रोसेसिंग पर इसकी निर्भरता है। छवि विश्लेषण एंड्रॉइड सिस्टम सेफ्टीकोर नामक एक सिस्टम घटक द्वारा किया जाता है, जो Google के सहायता दस्तावेज़ के अनुसार “एंड्रॉइड सुरक्षा सुविधाओं के लिए डिवाइस पर गोपनीयता-संरक्षण सहायता” प्रदान करने वाली एक सेवा है।
यह घटक नवंबर 2024 में Google सिस्टम अपडेट के माध्यम से “एंड्रॉइड सिस्टम की वेरिफायर” नामक एक अन्य ऐप (भविष्य में संपर्क पहचान सत्यापन के लिए) के साथ शुरू हुआ। G
Google इस बात पर ज़ोर देता है कि इमेज वर्गीकरण “केवल आपके डिवाइस पर ही चलता है और परिणाम Google के साथ साझा नहीं किए जाते हैं।” इसके अलावा, आधिकारिक दस्तावेज़ स्पष्ट करते हैं कि SafetyCore “केवल तभी सक्रिय होता है जब कोई एप्लिकेशन SafetyCore के साथ एकीकृत होता है और विशेष रूप से सामग्री को वर्गीकृत करने का अनुरोध करता है। इमेज तब तक वर्गीकृत नहीं होतीं जब तक कि उन्हें Google Messages के माध्यम से संवेदनशील सामग्री चेतावनी सुविधा चालू करके नहीं भेजा जाता।”
उपयोगकर्ता प्रतिक्रियाएँ और सिस्टम रोलआउट
इन गोपनीयता आश्वासनों के बावजूद, SafetyCore घटक की पहले की, अक्सर अनदेखी की गई स्थापना ने कुछ उपयोगकर्ताओं की चिंताएँ बढ़ा दीं, कुछ ने इस सुविधा के आधिकारिक रूप से सक्रिय होने से पहले इसके उद्देश्य के बारे में प्रारंभिक पारदर्शिता की कमी के कारण इसे समय से पहले ही लेबल कर दिया। यह घटक पूरी तरह से डिवाइस पर काम करता है, तकनीकी विश्लेषणों से भी यही बात सामने आई है।
Messages में उपयोगकर्ताओं के लिए उपलब्ध संवेदनशील सामग्री चेतावनी सुविधा वर्तमान में Messages बीटा प्रोग्राम में शामिल लोगों के लिए उपलब्ध हो रही है। Google की मूल घोषणा में “आने वाले महीनों में Google Messages के साथ Android Go डिवाइस सहित Android 9+ डिवाइस पर” व्यापक रोलआउट का संकेत दिया गया था।
Android Go, शुरुआती स्तर के हार्डवेयर के लिए डिज़ाइन किए गए ऑपरेटिंग सिस्टम का एक हल्का संस्करण है। फ़रवरी 2025 में SafetyCore ऐप विवरण में भी वर्तमान सक्रियण समय-सीमा के अनुरूप “2025 में क्रमिक रोलआउट” का उल्लेख किया गया था। इस सुविधा के लिए डिवाइस में कम से कम 2GB RAM होना आवश्यक है। उपयोगकर्ता सेटिंग > सुरक्षा और सुरक्षा > संवेदनशील सामग्री चेतावनियाँ प्रबंधित करें पर जाकर Messages में नियंत्रण टॉगल पा सकते हैं।
कई AI वर्गीकरण प्रणालियों की तरह, Google स्वीकार करता है कि यह सुविधा कभी-कभी छवियों को गलत वर्गीकृत कर सकती है, संभावित रूप से सुरक्षित छवियों को फ़्लैग कर सकती है या स्पष्ट छवियों को छोड़ सकती है।
चेतावनियाँ और उपलब्धता प्रबंधित करना
यह सुविधा डिफ़ॉल्ट रूप से कैसे काम करती है, यह उपयोगकर्ता खाते के कॉन्फ़िगरेशन पर निर्भर करता है। अप्रतिबंधित फ़ोन इस्तेमाल करने वाले ज़्यादातर वयस्कों के लिए, चेतावनियाँ डिफ़ॉल्ट रूप से बंद होती हैं और उन्हें सक्रिय रूप से सक्षम (ऑप्ट-इन) होना चाहिए। किशोरों (13-17 वर्ष) के लिए जिनके खातों की निगरानी फ़ैमिली लिंक के ज़रिए नहीं की जाती है, यह सुविधा डिफ़ॉल्ट रूप से सक्षम होती है, लेकिन इसे उनके Google खाता सेटिंग में बंद किया जा सकता है।
जिन बच्चों के खातों की निगरानी फ़ैमिली लिंक (Google की अभिभावकीय नियंत्रण सेवा) के ज़रिए की जाती है, उनके लिए यह सुविधा डिफ़ॉल्ट रूप से सक्षम होती है, और केवल अभिभावक या अभिभावक ही फ़ैमिली लिंक ऐप के ज़रिए इसे बंद कर सकते हैं।
यह नग्नता चेतावनी प्रणाली, Google द्वारा AI का उपयोग करके संदेशों में सुरक्षा बढ़ाने के व्यापक प्रयास का हिस्सा है। अक्टूबर 2024 की घोषणा में फर्जी नौकरी या डिलीवरी नोटिफिकेशन जैसे विशिष्ट पैटर्न पर केंद्रित उन्नत घोटाला पहचान क्षमताओं को भी शामिल किया गया था, जो मार्च 2025 में पिक्सेल फोन तक पहुँचना शुरू हो गईं। Google का दृष्टिकोण iOS और macOS पर उपलब्ध Apple के संवेदनशील सामग्री चेतावनी फ़ीचर के समान है, जो उपयोगकर्ताओं को उनके उपकरणों पर सीधे संभावित रूप से अवांछित स्पष्ट सामग्री को प्रबंधित करने के लिए उपकरण प्रदान करने की दिशा में एक व्यापक उद्योग दिशा का संकेत देता है।
स्रोत: Winbuzzer / Digpu NewsTex