Home India इंस्टाग्राम पर अश्लील-हिंसक कंटेंट पर शिकंजा, AI करेगा पोस्ट फिल्टर!

इंस्टाग्राम पर अश्लील-हिंसक कंटेंट पर शिकंजा, AI करेगा पोस्ट फिल्टर!

नई दिल्ली। राजवीर दीक्षित

 

(Crackdown on obscene and violent content on Instagram; AI to filter posts!) सोशल मीडिया प्लेटफॉर्म इंस्टाग्राम पर अश्लील, हिंसक और आपत्तिजनक कंटेंट देखने वाले यूजर्स के लिए बड़ा बदलाव होने जा रहा है। Meta ने भारत में इंस्टाग्राम के कंटेंट रिकमेंडेशन सिस्टम में बदलाव किया है। अब आर्टिफिशियल इंटेलिजेंस (AI) की मदद से आपत्तिजनक पोस्ट की पहचान कर उन्हें यूजर्स के सामने आने वाली सिफारिशों से हटाया जाएगा।

कंपनी का दावा है कि नए AI मॉडल पहले से अधिक प्रभावी तरीके से संवेदनशील और आपत्तिजनक सामग्री की पहचान कर सकेंगे। इसका असर इंस्टाग्राम के रील्स, एक्सप्लोर और फीड सेक्शन में दिखाई देगा।

शिकायत से पहले ही AI करेगा कार्रवाई

नए सिस्टम की सबसे बड़ी खासियत यह है कि आपत्तिजनक पोस्ट की पहचान के लिए यूजर्स की शिकायत का इंतजार नहीं करना पड़ेगा।

AI मॉडल अपने स्तर पर कंटेंट की जांच करेंगे और नियमों के अनुरूप नहीं पाए जाने वाले पोस्ट को रिकमेंडेशन से बाहर कर सकेंगे।

यह बदलाव मुख्य रूप से उन पोस्ट पर लागू होगा, जिन्हें यूजर फॉलो नहीं करता, लेकिन इंस्टाग्राम का एल्गोरिदम उन्हें रील्स, एक्सप्लोर या फीड में दिखाता है।

सरकार ने Meta को दी थी चेतावनी

केंद्र सरकार ने 10 अक्टूबर को Meta को एडवाइजरी जारी कर फेसबुक और इंस्टाग्राम के रिकमेंडेशन सिस्टम तथा एल्गोरिदम की समीक्षा करने को कहा था।

सरकार ने सोशल मीडिया प्लेटफॉर्म पर आपत्तिजनक सामग्री के प्रसार को लेकर चिंता जताई थी। इसके बाद इंस्टाग्राम की ओर से AI आधारित कंटेंट फिल्टरिंग को मजबूत करने की जानकारी सामने आई है।

यूजर्स खुद भी रोक सकेंगे आपत्तिजनक पोस्ट

इंस्टाग्राम ने यूजर्स को अपनी पसंद के अनुसार कंटेंट नियंत्रित करने के विकल्प भी उपलब्ध कराए हैं।

‘Not Interested’ विकल्प का इस्तेमाल करके यूजर्स उन पोस्ट की संख्या कम कर सकते हैं, जिन्हें वे देखना नहीं चाहते।

इसके अलावा ‘Sensitive Content Control’ के माध्यम से संवेदनशील सामग्री सीमित की जा सकती है, जबकि ‘Hidden Words’ फीचर से आपत्तिजनक शब्दों और कमेंट्स को फिल्टर किया जा सकता है।

किशोरों के लिए अलग सुरक्षा व्यवस्था

Meta ने किशोर यूजर्स के लिए ‘Teen Accounts’ की सुविधा भी उपलब्ध कराई है। इसके तहत उम्र के अनुसार कंटेंट दिखाने और अतिरिक्त सुरक्षा उपाय लागू करने की व्यवस्था है।

13+ कंटेंट सेटिंग के जरिए किशोरों को उनकी उम्र के अनुरूप सामग्री दिखाने पर जोर दिया गया है।

कंपनी का कहना है कि यूजर्स की प्रतिक्रिया और बदलती जरूरतों के आधार पर AI मॉडल को लगातार बेहतर बनाया जाएगा।

बच्चों से जुड़े आपत्तिजनक विज्ञापनों पर भी हुई थी कार्रवाई

इससे पहले 4 जुलाई को केंद्र सरकार ने इंस्टाग्राम पर बच्चों के यौन शोषण से जुड़ी सामग्री को बढ़ावा देने वाले कथित विज्ञापनों के मामले में Meta को नोटिस जारी किया था।

सरकार ने कंपनी से सात दिनों के भीतर जवाब मांगा था। सूचना प्रौद्योगिकी मंत्रालय ने ऐसे विज्ञापनों को तत्काल ब्लॉक करने और हटाने के निर्देश भी दिए थे।

यह कार्रवाई बीबीसी की एक जांच रिपोर्ट के बाद सामने आई थी, जिसमें भारत में इंस्टाग्राम पर बच्चों के यौन शोषण से संबंधित विज्ञापन दिखाए जाने का दावा किया गया था।

इससे पहले 1 जुलाई को सरकार ने WhatsApp के यूजरनेम फीचर को लेकर भी Meta को नोटिस भेजा था।

अब इंस्टाग्राम के एल्गोरिदम पर रहेगी नजर

Meta के नए बदलावों का उद्देश्य यूजर्स को अधिक सुरक्षित डिजिटल अनुभव देना है। हालांकि, आपत्तिजनक सामग्री की पहचान और उसे रिकमेंडेशन से हटाने में AI कितना प्रभावी साबित होगा, यह आने वाले समय में स्पष्ट होगा।

फिलहाल सरकार की एडवाइजरी के बाद इंस्टाग्राम का यह कदम सोशल मीडिया प्लेटफॉर्म पर कंटेंट की निगरानी और यूजर्स की सुरक्षा को लेकर महत्वपूर्ण माना जा रहा है।

Translate »
error: Content is protected !!
BREAKING NEWS
हिमाचल के श्रद्धालुओं के लिए बड़ी खबर! 20 नवंबर से बंद होंगे शिकारी माता मंदिर के कपाट अमृतपाल सिंह को दादी के अंतिम संस्कार में शामिल होने के लिए 21 नवंबर को 3 घंटे की हिरासत की अनुमति पुलिस विभाग में बड़ा फेरबदल! 11 इंस्पेक्टर समेत 18 के तबादले अमृतसर: कन्या भ्रूण हत्या के खिलाफ गुरिंदर सिंह मट्टू की जंग बन रही है मिसाल मोहाली म्युनिसिपल कॉर्पोरेशन की बैठक में जोरदार हंगामा, विपक्ष ने विकास कार्यों में भेदभाव का लगाया आरोप पंजाब में धूमधाम से मनाया जाएगा संत गुरु रविदास का 650वां प्रकाश पर्व, मुख्यमंत्री भगवंत मान ने किया ऐलान हिमाचल के खजाने में सौर ऊर्जा से आए 49.46 करोड़ रुपये, CM सुक्खू ने दी जानकारी पंजाब में गठबंधन की चर्चाओं के बीच SAD और BJP अलग-अलग लड़ेंगे म्युनिसिपल कॉर्पोरेशन के उपचुनाव अनियंत्रित शहरी विकास और खराब प्लानिंग की मार झेल रहा गुरदासपुर, निवासियों की बढ़ गईं मुश्किलें CM सुक्खू का बड़ा बयान! हिमाचल के हितों को ध्यान में रखकर बनेगी औद्योगिक नीति