सुसाइड और एडल्ट कंटेंट पर सोशल मीडिया की सख्ती बढ़ी, AI से हो रही तेज कार्रवाई
सोशल मीडिया प्लेटफॉर्म अब आत्महत्या (Suicide), सेल्फ-हार्म और एडल्ट कंटेंट के खिलाफ पहले से कहीं अधिक सख्ती से कार्रवाई कर रहे हैं। 2022 से 2025 के बीच कंटेंट मॉडरेशन में बड़ा बदलाव देखने को मिला है। AI (आर्टिफिशियल इंटेलिजेंस) आधारित मॉडरेशन सिस्टम और सख्त कम्युनिटी गाइडलाइंस की मदद से इंस्टाग्राम, फेसबुक, स्नैपचैट और एक्स (X) जैसे प्लेटफॉर्म संवेदनशील पोस्ट की पहचान कर उन्हें तेजी से हटा रहे हैं।
आत्महत्या और सेल्फ-हार्म कंटेंट पर सबसे ज्यादा फोकस
उपलब्ध आंकड़ों के अनुसार, आत्महत्या और सेल्फ-हार्म से जुड़े कंटेंट पर कार्रवाई की हिस्सेदारी वर्ष 2022 में 5.41% थी, जो 2025 में बढ़कर 21.44% हो गई। वहीं, एडल्ट कंटेंट और न्यूडिटी के खिलाफ कार्रवाई 10.97% से बढ़कर 16.85% तक पहुंच गई।
यह बदलाव दर्शाता है कि सोशल मीडिया कंपनियां अब यूजर सेफ्टी को प्राथमिकता देते हुए संवेदनशील और हानिकारक कंटेंट के खिलाफ अधिक सक्रिय हो गई हैं।
इंस्टाग्राम पर सबसे अधिक कार्रवाई
2025 में कुल कंटेंट मॉडरेशन कार्रवाई में सबसे बड़ी हिस्सेदारी इंस्टाग्राम की रही, जहां 55.90% कार्रवाई दर्ज की गई। इसके बाद फेसबुक का स्थान रहा, जिसकी हिस्सेदारी 43.38% रही।
वहीं, स्नैपचैट और एक्स (X) पर भी कार्रवाई हुई, हालांकि इनकी हिस्सेदारी अन्य प्लेटफॉर्म की तुलना में काफी कम रही।
AI से पहले ही हटाए जा रहे संदिग्ध पोस्ट
सोशल मीडिया कंपनियां अब AI आधारित मॉडरेशन सिस्टम का इस्तेमाल कर रही हैं, जिससे आत्महत्या, सेल्फ-हार्म, अश्लीलता, बच्चों की सुरक्षा, हिंसा और अन्य संवेदनशील कंटेंट की पहचान पहले से अधिक तेजी से हो रही है।
कई मामलों में संदिग्ध पोस्ट यूजर्स की शिकायत मिलने से पहले ही प्लेटफॉर्म द्वारा स्वतः हटाए जा रहे हैं। इससे हानिकारक कंटेंट के प्रसार को रोकने में मदद मिल रही है।
बुलिंग और हेट स्पीच पर कार्रवाई की हिस्सेदारी घटी
आंकड़ों के मुताबिक, बुलिंग और ऑनलाइन उत्पीड़न से जुड़े मामलों पर कार्रवाई की हिस्सेदारी 2022 में 2.32% थी, जो 2025 में घटकर 1.85% रह गई। इसी तरह हेट स्पीच से जुड़े मामलों की हिस्सेदारी 0.53% से बढ़कर 2023 में 1.15% हुई, लेकिन 2025 में घटकर 0.59% पर आ गई।
यह जरूरी नहीं कि ऐसे मामलों में कमी आई हो, बल्कि यह आंकड़े कुल कंटेंट मॉडरेशन कार्रवाई में इन श्रेणियों की प्रतिशत हिस्सेदारी को दर्शाते हैं।
भारत में लगातार बढ़ रहा सोशल मीडिया का दायरा
भारत में सोशल मीडिया का उपयोग भी लगातार बढ़ रहा है। 2025 के आंकड़ों के अनुसार, देश की कुल आबादी में एक्टिव यूजर्स की हिस्सेदारी में इंस्टाग्राम (28.28%) और फेसबुक (26.23%) सबसे आगे हैं। वहीं स्नैपचैट (14.21%) का उपयोग भी लगातार बढ़ा है, जबकि एक्स (X) की हिस्सेदारी लगभग स्थिर बनी हुई है।
यूजर सेफ्टी पर बढ़ा जोर
विशेषज्ञों के अनुसार, AI आधारित तकनीक, सख्त कम्युनिटी गाइडलाइंस और विभिन्न देशों के डिजिटल नियमों के चलते सोशल मीडिया कंपनियां अब यूजर सेफ्टी पर पहले से अधिक ध्यान दे रही हैं। भारत जैसे बड़े डिजिटल बाजार में बढ़ते यूजर बेस के साथ प्लेटफॉर्म हानिकारक कंटेंट पर तेजी से कार्रवाई कर सुरक्षित ऑनलाइन वातावरण बनाने की दिशा में काम कर रहे हैं।
